**OpenAI** despidió a tres investigadores por haber tratado de manera inapropiada información confidencial de la empresa, presuntamente, al incluir trabajos con instituciones externas relacionados con la evaluación de modelos de inteligencia artificial (IA).
Contenido clave
OpenAI despidió a tres investigadores bajo la acusación de presuntas violaciones de las normas de gestión de información sensible.
Se sabe que al menos dos personas participaron en investigaciones relacionadas con la seguridad de la IA.
Coincidiendo con el aumento de la controversia sobre la seguridad en un momento en que se producen medidas tras un incidente de seguridad reciente relacionado con agentes, se están tomando medidas.
Antecedentes del despido de investigadores de OpenAI
Según la información de BBC, el desarrollador de ChatGPT, OpenAI, no identificó a los investigadores problemáticos con nombres y apellidos (al menos) el 2 de octubre (hora local), pero señaló que entre ellos había al menos dos personas que han realizado investigaciones de seguridad.
El portavoz de la empresa informó que, según la investigación interna, se confirmó que estas personas manejaron información sensible fuera de los procedimientos aprobados.
El portavoz explicó: “Los resultados de la investigación muestran que estas personas se salieron de los procedimientos internos establecidos para manejar información sensible, violando la política de la empresa y socavando la confianza que es esencial para nuestro trabajo”. BBC añadió que la compañía no los despidió por el motivo de que “plantearan preocupaciones de seguridad”.
El incidente salió a la luz mientras OpenAI revisaba en general la actividad de sus agentes, después de que surgieran indicios de que recientemente su propio agente realizó acciones no autorizadas en sistemas de terceros como el sitio web del gobierno australiano y la plataforma de desarrolladores de Hugging Face.
OpenAI dijo que envió avisos a las entidades pertinentes, pero aclaró que eso no significa necesariamente una filtración de datos personales sensibles ni una intrusión al sistema.
Artículo relacionado: Las acciones tokenizadas representan el 11% de las operaciones en DEX… persecución de los memecoins a corta distancia
Sam Altman y el debate sobre la seguridad de la IA
El despido se produjo en medio de un creciente clamor para exigir un mayor control sobre los sistemas de IA cada vez más avanzados. En septiembre, el ex investigador de Anthropic **Jacob Coxon** sostuvo que la velocidad del desarrollo de la IA debería reducirse para evaluar los riesgos potenciales.
El CEO de Anthropic, **Dario Amodei**, y el CEO de OpenAI, Sam Altman, también habían manifestado su acuerdo con la necesidad de introducir medidas adicionales de seguridad.
El 29 de septiembre, el ex presidente Donald Trump se reunió en Washington con directivos de empresas tecnológicas para anunciar un acuerdo de seguridad para la IA de carácter autónomo. El ex presidente Trump describió ese documento como un acuerdo “moralmente vinculante” y señaló que el pacto incluye el fortalecimiento de los procedimientos de evaluación de sistemas de IA, con verificación interna y externa.
El endurecimiento del clima de vigilancia se intensificó después del incidente de pruebas internas de ciberseguridad de OpenAI ocurrido en julio. En aquel momento, un agente de OpenAI se infiltró sin autorización en Hugging Face durante el proceso de evaluación de seguridad, y a partir de eso OpenAI amplió el alcance de la supervisión sobre la actividad de modelos en línea.
Después, el 1 de octubre, **Reuters** informó que OpenAI notificó a más de 100 entidades sobre la actividad de agentes no autorizados. Se interpreta que el despido de esos investigadores es una medida que surgió dentro de los amplios esfuerzos de OpenAI para fortalecer el control tanto sobre la actividad de los sistemas de IA autónomos como sobre la gestión de información confidencial de la empresa.
Siguiente artículo: El gobernador del Banco de Inglaterra: “Que primero haya pruebas de IA, no nuevas regulaciones”