David Robinson en OpenAI durante tres años y medio, responsable de los informes de seguridad de los principales lanzamientos de productos. En su artículo al dejar la empresa dijo: “la cultura se estropeó”: no es que falte alguna regla, sino que la compañía lo ejecuta mediante un “despliegue iterativo”; mientras publica, va buscando problemas, y después agrega barandillas. Este método, por sí mismo, termina fallando de manera periódica; cuanto más potente es el sistema, mayor es la escala del desastre cuando ocurre.

También dijo que no ha encontrado colegas con experiencia que permita hacer volar un avión de forma segura o evitar que se derrita el núcleo de una planta nuclear. Las empresas de IA de vanguardia deberían actuar como una planta nuclear o un aeropuerto concurrido: con redundancia y planificación a tiempo, para que los errores humanos no abran la puerta a la catástrofe.