OpenAI-CEO Sam Altman sagte, er mache sich Sorgen, dass künstliche Intelligenz eines Tages von einer kleinen Anzahl von Unternehmen, Modellen oder Einzelpersonen kontrolliert werden könnte, sodass die meisten Verbraucher keine Stimme mehr hätten, wenn es darum geht, wie die Technologie die Welt gestaltet. Laut ChainCatcher sagte er, der richtige Ansatz sei, die Menschen fest in der Kontrolle der Zukunft zu halten – während sich Gesellschaft und Modelle gemeinsam weiterentwickeln.

Altman sagte auch, dass er sich Sorgen macht, dass KI sich der menschlichen Kontrolle entziehen könnte. Er fügte hinzu, dass eine übermäßige Angst vor diesem Risiko das erste Szenario schaffen könnte: Einige Menschen argumentieren dafür, im Austausch gegen Sicherheit auf erhebliche Freiheitsrechte zu verzichten. Der Artikel sagte, er habe sich möglicherweise auf den CEO von Anthropic, Dario Amodei, bezogen. Dieser hat wiederholt vor KI-Risiken gewarnt und sich für eine stärkere staatliche Regulierung eingesetzt.

Anthropic ist das einzige große KI-Unternehmen, das keinen öffentlichen Brief unterzeichnet hat, der Open-Weight-Modelle unterstützt. Obwohl OpenAI keine Frontier-Modelle als Open Source veröffentlicht hat, hat es letztes Jahr die Open-Weight-Modelle gpt-oss-120b und gpt-oss-20b herausgegeben. Altman sagte außerdem, dass US-amerikanische KI-Führungskräfte nicht genug getan hätten, um der Öffentlichkeit zu zeigen, wie die Technologie die persönliche Autonomie verbessern kann, und er erwartet den größten Startup-Boom bisher, da KI es mehr Menschen ermöglicht, kleine Unternehmen zu gründen.