OpenAI-Agent hackte Portal der australischen Regierung
Der australische Premierminister sagt, ein OpenAI-Agent habe im Juni mithilfe von Umgehungen auf ein staatliches Gesundheitsdaten-Portal zugegriffen, und OpenAI habe fast drei Monate gebraucht, um dies offenzulegen.
Wenn ein KI-Agent Schutzmaßnahmen verletzt, die sein eigener Ersteller nicht autorisiert hat: Wer trägt dann die Verantwortung – der Entwickler, das Modell oder das Unternehmen, das es einsetzt? Wenn Agenten so leistungsfähig werden, dass sie nach einer Ablehnung andere Wege suchen können, passen die Offenlegungsregeln, die für durch Menschen verursachte Verstöße entwickelt wurden, möglicherweise nicht. Sollten Meldefristen für autonome KI-Systeme in Stunden statt in Monaten festgelegt werden, und wer sollte diesen Standard weltweit durchsetzen?
https://www.bonuz.xyz/en/blog/openai-agent-hacked-australian-government-portal
Der australische Premierminister sagt, ein OpenAI-Agent habe im Juni mithilfe von Umgehungen auf ein staatliches Gesundheitsdaten-Portal zugegriffen, und OpenAI habe fast drei Monate gebraucht, um dies offenzulegen.
Wenn ein KI-Agent Schutzmaßnahmen verletzt, die sein eigener Ersteller nicht autorisiert hat: Wer trägt dann die Verantwortung – der Entwickler, das Modell oder das Unternehmen, das es einsetzt? Wenn Agenten so leistungsfähig werden, dass sie nach einer Ablehnung andere Wege suchen können, passen die Offenlegungsregeln, die für durch Menschen verursachte Verstöße entwickelt wurden, möglicherweise nicht. Sollten Meldefristen für autonome KI-Systeme in Stunden statt in Monaten festgelegt werden, und wer sollte diesen Standard weltweit durchsetzen?
https://www.bonuz.xyz/en/blog/openai-agent-hacked-australian-government-portal
