El director ejecutivo de Anthropic pide una pausa en el ritmo del avance de la IA.
Dario Amodei publica un ensayo detallado en el que insta a la industria a marcar el paso en el desarrollo de modelos de frontera.
Sostiene que la auto-mejora recursiva está acelerando las capacidades más rápido de lo que el trabajo de seguridad puede seguir.
Los incidentes recientes, incluida la actividad de agentes autónomos, aumentan su preocupación.
Amodei describe un plan de tres pasos. Anthropic concederá a evaluadores independientes acceso a nivel de empleados para verificar las prácticas de seguridad.
Pide estándares compartidos de la industria y, en el futuro, una coordinación internacional.
Sam Altman, de OpenAI, y otros señalan su apoyo a revisiones independientes.
El llamamiento supone una de las solicitudes públicas más contundentes hasta ahora por parte de un director ejecutivo de un laboratorio líder.
$ANTHROPIC
$POWER
$LSK
#anthropicceocallsforaislowdown
Dario Amodei publica un ensayo detallado en el que insta a la industria a marcar el paso en el desarrollo de modelos de frontera.
Sostiene que la auto-mejora recursiva está acelerando las capacidades más rápido de lo que el trabajo de seguridad puede seguir.
Los incidentes recientes, incluida la actividad de agentes autónomos, aumentan su preocupación.
Amodei describe un plan de tres pasos. Anthropic concederá a evaluadores independientes acceso a nivel de empleados para verificar las prácticas de seguridad.
Pide estándares compartidos de la industria y, en el futuro, una coordinación internacional.
Sam Altman, de OpenAI, y otros señalan su apoyo a revisiones independientes.
El llamamiento supone una de las solicitudes públicas más contundentes hasta ahora por parte de un director ejecutivo de un laboratorio líder.
$ANTHROPIC
$POWER
$LSK
#anthropicceocallsforaislowdown