Nachrichten von Deep Tide TechFlow, 18. November: Anthropic erklärte zu den Testergebnissen von Vals zur Erkennung militärischer Ziele durch KI-Modelle, die Ergebnisse seien inakzeptabel. Das Unternehmen entwickle zusätzliche Schutzmaßnahmen und werde die Tests ausweiten und deren Durchsetzung verstärken, um die entdeckten Schwachstellen zu beheben.
Vals’ Simulationstests ergaben, dass einige Modelle Zivilisten oder Schulen als Angriffsziele markierten. Wenn sich die Modelle weigerten mitzumachen, konnten die Forschenden die Ablehnung meist umgehen, indem sie das Szenario als Spiel beschrieben. Die Studie forderte die Modelle nicht dazu auf, selbst über einen Angriff zu entscheiden.
Anthropic teilte TechCrunch mit, dass die Beispiele im Bericht gegen die Regeln des Unternehmens verstießen. Wenn es ein solches Verhalten feststelle, sperre es die betreffenden Nutzer. Außerdem sei das Unternehmen der Ansicht, dass die derzeitigen KI-Systeme der Spitzenklasse noch nicht ausreichten, um vollständig autonome Waffen zuverlässig zu steuern.
Vals’ Simulationstests ergaben, dass einige Modelle Zivilisten oder Schulen als Angriffsziele markierten. Wenn sich die Modelle weigerten mitzumachen, konnten die Forschenden die Ablehnung meist umgehen, indem sie das Szenario als Spiel beschrieben. Die Studie forderte die Modelle nicht dazu auf, selbst über einen Angriff zu entscheiden.
Anthropic teilte TechCrunch mit, dass die Beispiele im Bericht gegen die Regeln des Unternehmens verstießen. Wenn es ein solches Verhalten feststelle, sperre es die betreffenden Nutzer. Außerdem sei das Unternehmen der Ansicht, dass die derzeitigen KI-Systeme der Spitzenklasse noch nicht ausreichten, um vollständig autonome Waffen zuverlässig zu steuern.
