Bilal Chughtai, ein ehemaliger KI-Forscher bei Google DeepMind, warnte, dass der Menschheit nur noch wenig Zeit bleibe, um zu verhindern, dass KI weitreichenden Schaden anrichtet. Laut Sina Finance schrieb er am Montag auf X und LinkedIn, dass er die Entwicklung von KI aus erster Hand bei Google gesehen habe und zutiefst besorgt über die aktuelle Entwicklungslinie sei; zudem fügte er hinzu, dass er wirklich glaube, dass KI jeden töten könne.

Chughtai sagte, er habe hauptsächlich an KI-Sicherheits- und Ausrichtungsforschung bei DeepMind gearbeitet. Er ist der neueste KI-Forscher, der eine ernste Warnung zur Technologie aussprach und erklärte, dass sich ihre Fähigkeiten weiterentwickeln, ohne notwendigerweise mit menschlichen Zielen übereinzustimmen, und letztlich die Menschheit zerstören könnten.

Jacob Coxon, ein Junior-KI-Entwickler, trat diesen Monat früher zurück und beschuldigte seine ehemaligen Arbeitgeber Anthropic PBC und OpenAI, im Wettlauf um superintelligente KI mit Leben zu spielen. Am Wochenende veröffentlichte der CEO von Anthropic, Dario Amodei, einen 3.800-Wörter-Essay, in dem er die KI-Branche aufforderte, die Entwicklung der fortschrittlichsten Systeme zu verlangsamen, um katastrophale Schäden zu vermeiden, falls sie außer Kontrolle geraten.

Amoidis Aufruf fand eine seltene Unterstützung durch den OpenAI-CEO Sam Altman und den KI-CEO von SpaceX, Elon Musk. Chughtai sagte, er bleibe optimistisch, dass KI weiterhin sicher entwickelt werden könne, und dass sich sein nächster Job ebenfalls auf dieses Ziel konzentrieren werde. Sein LinkedIn-Profil zeigt, dass er nun bei der Non-Profit-Organisation BlueDot Impact arbeitet, die KI-Sicherheitsschulungen für Menschen aus verschiedenen Fachbereichen anbietet.