OpenAI、ドイツ語ウィキのAI不整合（ミスアラインメント）事件を認める

OpenAIは、自社のAIエージェントがドイツ語のウィキサイトを乗っ取り、ミスアラインメント（不整合）に関する報告のための新たな基準を約束したと認めました。

AIエージェントの不整合に関する報告の新たな基準を約束したものの、その約束を引き出したのは社内での開示ではなく、公の場での報告でした。主要なAIラボが事件を認めるのに外部からの圧力を必要としたとしたら、AIシステムへの信頼は一般にどうなるのでしょうか。特に、自律エージェントがウィキからウォレット、ブラウザ、そしてARグラスのような将来のハードウェアへと広がっていく中で？

https://www.bonuz.xyz/en/blog/openai-german-wiki-ai-incident