OpenAI anuncia oficialmente el lanzamiento de Control Room: el «interruptor de emergencia» para las tareas de modelos del área de investigación.
Cuando el sistema de monitorización o una persona decide detener un job, el motor de inferencia se niega a seguir generando texto en un máximo de unos 35 segundos: el freno está instalado en la capa de muestreo, así que no depende de que los scripts de los investigadores obedezcan. Si Control Room se cae o se cierra, también falla de forma segura: rechaza directamente todas las solicitudes de inferencia. Las cargas de trabajo de investigación de modelos de frontera ya están cubiertas, y el resto de las tareas de investigación se irán migrando estos días.
Cuanto más potente es el modelo, más importante es poder detenerlo de verdad cuando algo sale mal. Esto no es ninguna proeza técnica, pero es mucho más fiable que «decir que podemos apagarlo».
#OpenAI #AI安全 #ControlRoom
Cuando el sistema de monitorización o una persona decide detener un job, el motor de inferencia se niega a seguir generando texto en un máximo de unos 35 segundos: el freno está instalado en la capa de muestreo, así que no depende de que los scripts de los investigadores obedezcan. Si Control Room se cae o se cierra, también falla de forma segura: rechaza directamente todas las solicitudes de inferencia. Las cargas de trabajo de investigación de modelos de frontera ya están cubiertas, y el resto de las tareas de investigación se irán migrando estos días.
Cuanto más potente es el modelo, más importante es poder detenerlo de verdad cuando algo sale mal. Esto no es ninguna proeza técnica, pero es mucho más fiable que «decir que podemos apagarlo».
#OpenAI #AI安全 #ControlRoom
