アンソロピックは、CEOダリオ・アモデイからの提案を受け、AI開発のペースを遅らせるのを助けるための最初の組み込み型評価者として、アクセンチュアを選んだと述べた。アモデイは9月12日、「急速で、検証されないまま進む開発がもたらす壊滅的な危害の可能性」についての警告を背景に、セーフガードを導入できるようにするため、より遅いAI開発を求める3段階の提案を公表した。OpenAIのCEOサム・アルトマンとSpaceXのCEOイーロン・マスクはこの提案に前向きな反応を示した一方、NvidiaのCEOジェンスン・フアンは、そのような規制は不要だと主張した。アモデイは、AIが次世代のAIを構築する能力を高めているため、AIがより速い速度で進歩していると述べ、「再帰的な自己改善」としてそのプロセスを説明し、これらのシステムを抑制しないままにすれば、人間が理解し制御する能力を上回ってしまう可能性があると警告した。

アンソロピックは、アモデイの提案における最初のステップは、従業員のようなアクセス権を持つ独立した評価者を活用することだと述べた。これは同社がすでに約束していた取り組みだという。コインテレグラフによると、アンソロピックは金曜日、アクセンチュアおよび同社のAI事業部門「Faculty」と提携し、モデルの評価やレッドチーミングを行い、アラインメントのアセスメントを実施し、モデルのセーフガードをテストすることで、その目標に向けて進み始めていると発表した。同社は、この取り決めがどのように機能するかの詳細はまだ開発中であると説明した。埋め込み型の評価は新しいアプローチだからだ。アンソロピックとアクセンチュアはそれぞれ、今後5年間でこのプロジェクトに少なくとも10億ドル（計少なくとも20億ドル）を投資する見込みだという。アンソロピックはまた、独立した評価に資金を提供する既存の仕組みはないため、長期的な支援はプール型または政府の資金源から得るべきだが、取り組みの緊急性ゆえにアクセンチュアの作業には直接資金を拠出するとした。提携は非独占であり、アンソロピックは今後数週間のうちに追加の評価者を発表する予定だとしている。アクセンチュアは、Faculty部門が、先進的なAIラボのためのテストおよび評価、そして「最初から安全で倫理的である」ことを目指して設計された複雑なAIシステムの構築に関する経験を有していると述べた。アクセンチュアの会長兼CEOであるジュリー・スウィートは、埋め込み型評価は新興分野であり、今後の安全性の取り組みの一環として、その開発を加速させることを支援できることを楽しみにしていると語った。