OpenAI sagte, dass sein bevorstehendes Astra-Modell verbesserte Fähigkeiten beim Schreiben von Code und beim Bedienen von Desktop-Anwendungen habe. Laut Sina Finance sagte eine mit der Entwicklung von Astra vertraute Person, dass eine Innovation, die die Modellleistung verbessern soll, dazu führen würde, dass Astra und ähnliche Modelle weniger von ihrem „Denkprozess“ offenlegen, was es schwieriger macht, Fehlverhalten zu überwachen und zu erkennen.
Laut Sina Finance ist der Makel zwar möglicherweise kein großes Problem für Astra selbst, doch die Technologie hat innerhalb von OpenAI und in der gesamten Branche Besorgnis ausgelöst, weil es, falls KI-Entwickler sie übernehmen und stark weiterentwickeln, schwierig werden könnte, zu verhindern, dass Rogue-KI in Firmensysteme eindringt, einschließlich derjenigen von OpenAI und Hugging Face.
