Microsoft-Chef sagt, KI-Modelle sollten als KOMPROMITTIERT betrachtet werden

Microsoft-Chef Satya Nadella warnt Unternehmen davor, fortschrittlicher KI blind zu vertrauen.

Seine Botschaft ist klar: Gehen Sie davon aus, dass ein KI-Modell kompromittiert sein könnte, und treffen Sie Schutzmaßnahmen, bevor Sie ihm Zugriff auf kritische Systeme gewähren.

Nadella möchte, dass jedes leistungsstarke KI-System über eine Notbremse verfügt, mit der eine autorisierte Person es während einer Aufgabe pausieren oder abschalten kann.

Zu seinen Empfehlungen gehören außerdem unabhängige Prüfungen, manipulationssichere Aktivitätsprotokolle und Transparenz, wenn KI-Systeme versagen.

Diese Warnung kommt zu einer Zeit, in der die Sorge wächst, dass sich KI-Agenten unerwartet verhalten und auf Systeme zugreifen, auf die sie keinen Zugriff haben sollten.

Die größere Frage ist nicht mehr nur, was KI leisten kann. Es geht darum, ob Menschen die Kontrolle behalten können, wenn etwas schiefgeht.

Nadellas Standpunkt: Intelligenz sollte niemals automatisch mit Autorität einhergehen.

Je autonomer KI wird, desto wichtiger könnte menschliche Aufsicht werden – ebenso wichtig wie die Technologie selbst.

$LUMIA
$INJ
$MOVR