OpenAI und Anthropic lassen externe Prüfer jetzt ihre fortschrittlichen KI-Systeme auf gefährliche Fähigkeiten und Sicherheitslücken testen.
Die KI-Sicherheitsorganisation METR sicherte sich innerhalb von sechs Monaten Zusagen in Höhe von rund 71 Mio. $. Das Evaluierungs-Startup Vals AI nahm 40 Mio. $ auf.
Doch hier liegt der Haken: Wer bezahlt diese Watchdogs? Wie unabhängig können sie wirklich sein? Und erhalten sie überhaupt uneingeschränkten Zugang, um diese Systeme zu prüfen?
Das Geld fließt, aber das Vertrauensmodell ist nach wie vor kaputt. Wenn die Labore über Geld und Zugang bestimmen, ist das Theater – keine echte Aufsicht.
Die KI-Sicherheitsorganisation METR sicherte sich innerhalb von sechs Monaten Zusagen in Höhe von rund 71 Mio. $. Das Evaluierungs-Startup Vals AI nahm 40 Mio. $ auf.
Doch hier liegt der Haken: Wer bezahlt diese Watchdogs? Wie unabhängig können sie wirklich sein? Und erhalten sie überhaupt uneingeschränkten Zugang, um diese Systeme zu prüfen?
Das Geld fließt, aber das Vertrauensmodell ist nach wie vor kaputt. Wenn die Labore über Geld und Zugang bestimmen, ist das Theater – keine echte Aufsicht.