Anthropic warnt, dass fortgeschrittene KI-Systeme ohne angemessene Aufsicht katastrophale oder existenzielle Risiken für die Menschheit darstellen könnten. Das auf KI-Sicherheit spezialisierte Unternehmen weist darauf hin, dass mit zunehmenden Fähigkeiten stärkere Schutzmaßnahmen erforderlich sind.