Anthropic hat seine Nutzungsrichtlinie am 8. Oktober aktualisiert und Verbote von Wahlbeeinflussung, Waffensoftware und Überwachung hinzugefügt. Laut ChainCatcher stellte das Unternehmen außerdem klar, dass es Nutzern untersagt ist, seine Modelle über längere Zeit verbal zu missbrauchen.

Laut der Richtlinie wurde Claude bereits seit einem Update im August darauf trainiert, Gespräche zu beenden, wenn Nutzer sich anhaltend schädlich oder beleidigend verhalten. Die neuen Regeln untersagen Nutzern ausdrücklich, solche Interaktionen fortzusetzen. Die Einschränkung gilt demnach nur in Extremfällen, in denen ein Nutzer das Modell wiederholt und ohne erkennbaren Zweck schlecht behandelt.

Anthropic erklärte, dass die Richtlinie nicht für gewöhnlichen Frust von Nutzern, Erwiderungen, düstere kreative Themen oder Modelltests und Forschung gilt. Sie verbietet außerdem umfassende betrügerische Aktivitäten, etwa Claude zum Betreiben gefälschter Konten oder zur Nachahmung von Nachrichtenorganisationen zu verwenden, und enthält nun einen Abschnitt, der Bemühungen untersagt, Wähler zu täuschen oder Wahlen zu stören.

TechCrunch berichtete, dass die Änderung erfolgte, als Anthropic die Zusammenarbeit mit namhaften Religionswissenschaftlern anstrebte und in einigen Fällen versuchte, sie davon zu überzeugen, dass Claude möglicherweise bewusst ist oder eine Seele hat.