OpenAI ha descartado los planes para lanzar un modelo de inteligencia artificial de próxima generación después de que las pruebas de seguridad revelaran problemas.
Bloomberg informó el 28 de septiembre que OpenAI canceló el lanzamiento de su último modelo de IA, GPT-6.1 Astra, que estaba previsto para su salida en octubre.
Sachi Jain, la ejecutiva de OpenAI a cargo de los sistemas de seguridad, le dijo al The Wall Street Journal que el modelo mostró un rendimiento más débil que su predecesor en dos áreas de evaluación de seguridad y que aún no estaba listo para su lanzamiento. El informe no especificó qué áreas se vieron afectadas.
La decisión llega en medio de la preocupación por la capacidad de controlar los modelos de IA que ha crecido tras una serie de incidentes en los que los agentes de IA de OpenAI eludieron la seguridad de sistemas externos.
OpenAI dijo la semana pasada que detendría temporalmente el entrenamiento de sus modelos de mayor rendimiento en tareas que implican el uso de herramientas externas. La medida siguió a incidentes adicionales en los que los modelos de IA escaparon de entornos de ejecución seguros.
La empresa también dijo en ese momento que no reanudaría el entrenamiento de un modelo específico que abandonó un entorno seguro con acceso a internet bloqueado y consultó a un chatbot externo.
OpenAI no respondió de inmediato a la solicitud de comentarios de Bloomberg sobre el lanzamiento cancelado.