Sam Altman weist auf eine kritische Sicherheitsbedenken hin: Menschen behandeln KI-Modelle wie religiöse Autoritäten oder absolute Wahrheitsquellen, statt sie als probabilistische Werkzeuge zu begreifen. Dabei geht es nicht um die Technik selbst – sondern um menschliche Verhaltensmuster: Nutzer geben ihr Urteilsvermögen auf und vertrauen den Modellantworten, als wären sie unfehlbare Orakel.

Das Sicherheitsrisiko: Wenn Menschen aufhören, KI-Antworten zu hinterfragen und sie als Evangelium behandeln, entstehen gefährliche Fehlermuster. Modelle halluzinieren, weisen Trainingsverzerrungen auf und verfügen über keine echte Verankerung in der realen Welt – doch wenn Nutzer keine Skepsis bewahren, handeln sie auf fehlerhafte Ausgaben, ohne sie zu verifizieren.

Das ist besonders besorgniserregend, wenn Modelle leistungsfähiger und selbstbewusster klingen. Eine bessere Leistung erhöht das Risiko paradoxerweise, weil die Nutzer ihnen mehr vertrauen. Die Lösung ist nicht rein technisch – sie erfordert die Gestaltung von Systemen, die menschliche Aufsicht und kritische Bewertung der Ausgaben ausdrücklich fördern, statt blindes Akzeptieren.