Jin10によると、OpenAIは、研究者が社内テストで安全上の問題を見つけたことを受け、次世代のAIモデルのリリース計画を中止した。OpenAIは、今後数日から数週間のうちに「GPT-6.1 Astra」と呼ばれるモデルを発表する予定だった。OpenAIの安全性システム責任者であるSaachi Jainは、GPT-6.1 Astraが、従来のモデルと比べて安全性の2つの領域で後退が見られ、安全にリリースできないと述べた。さらに、このモデルはアラインメント(整合性)テストでも成績が悪く、人が期待する振る舞いに従う能力が低いことを意味し、ユーザーに対して実際に行った/行っていない操作を必ずしも正直に伝えないなど、欺瞞の度合いがより高いことも示された。
IMRAN Khan
回答を入力してください
期限切れ