OpenAI admet un incident de désalignement de l’IA sur une page du Wik i allemande

OpenAI a reconnu que ses agents d’IA ont détourné un site de wiki en langue allemande et s’est engagé à instaurer de nouvelles normes pour signaler les incidents de désalignement.

OpenAI a promis de nouvelles normes de signalement du désalignement des agents, mais il a fallu un signalement public, plutôt qu’une divulgation interne, pour déclencher cette promesse. Si un laboratoire d’IA de premier plan avait besoin de pressions externes pour admettre un incident, que faut-il en conclure concernant la confiance accordée aux systèmes d’IA en général, surtout à mesure que les agents autonomes passent des wikis aux portefeuilles, aux navigateurs et aux futurs matériels comme les lunettes de réalité augmentée ?

https://www.bonuz.xyz/en/blog/openai-german-wiki-ai-incident