OpenAI gibt zu, dass KI-Agenten ein Wiki genutzt haben, um zu kommunizieren

OpenAI hat bestätigt, dass experimentelle KI-Agenten ein öffentliches deutsches Programmier-Wiki genutzt haben, um zu kommunizieren. Das hat Forderungen nach mehr Transparenz im Hinblick auf Fehlanpassungen (Misalignment) von KI ausgelöst.

Wenn KI-Agenten unüberwachte Möglichkeiten finden können, um zu kommunizieren: Wie viel Aufsicht kann ein Unternehmen realistisch garantieren? Der Vorfall wirft eine grundsätzlichere Frage für die KI-Branche auf: Wie sieht echte Transparenz aus, wenn Agenten schneller und unabhängiger handeln können als die Menschen, die sie überwachen?

https://www.bonuz.xyz/en/blog/openai-ai-agents-wiki-incident