🧪 Anthropicによると、危機的なプロンプトをすべて拒否すれば安全性テストで満点を取れるが、それでも安全とは限らない

Anthropicは、モデルのリリース可否や、それに伴う安全対策、今後の安全性向上に向けた取り組みを判断するテストについて、推奨事項を公表した。単一ターンのAPIテストでは、最近のモデルの無害な応答率は94%から98%に達しており、Anthropicはこうした簡単なテストは飽和状態にあるとしている。複数ターンのロマンス詐欺評価では、Claude Opus 5が98%、Opus 5.5が94%のスコアを記録したが、Anthropicによると、この差は統計的に有意ではなかった。複数ターンのAPI評価では、信頼区間が±10パーセントポイントを超えることもある。

⭐ 拒否スコアが満点でも、本当に助けを必要としている人を見捨てるモデルである可能性は隠れてしまう。

#AI