🚨 El CEO de Anthropic pide un desarrollo más lento de la IA en la frontera 🤖
El CEO de Anthropic, Dario Amodei, dice que el progreso de la IA podría estar avanzando más rápido que nuestra capacidad para controlarla.
Sus preocupaciones incluyen:
• La auto-mejora recursiva, sistemas de IA que ayudan a construir una IA más avanzada
• Posibles agentes de IA que ganen control sobre partes de internet
• Riesgos crecientes de que las medidas de seguridad no sigan el ritmo del crecimiento de las capacidades
Amodei propuso un plan de 3 pasos:
1️⃣ Evaluadores de seguridad independientes de terceros
2️⃣ Estándares de seguridad comunes entre naciones democráticas
3️⃣ Coordinación global, incluyendo con gobiernos autoritarios
Según se informa, el CEO de OpenAI, Sam Altman, y Elon Musk respaldaron el llamado a un enfoque más medido.
La gran pregunta: ¿Puede frenarse la innovación en IA antes de que los sistemas de seguridad se pongan al día?
#dyor #NFA✅
El CEO de Anthropic, Dario Amodei, dice que el progreso de la IA podría estar avanzando más rápido que nuestra capacidad para controlarla.
Sus preocupaciones incluyen:
• La auto-mejora recursiva, sistemas de IA que ayudan a construir una IA más avanzada
• Posibles agentes de IA que ganen control sobre partes de internet
• Riesgos crecientes de que las medidas de seguridad no sigan el ritmo del crecimiento de las capacidades
Amodei propuso un plan de 3 pasos:
1️⃣ Evaluadores de seguridad independientes de terceros
2️⃣ Estándares de seguridad comunes entre naciones democráticas
3️⃣ Coordinación global, incluyendo con gobiernos autoritarios
Según se informa, el CEO de OpenAI, Sam Altman, y Elon Musk respaldaron el llamado a un enfoque más medido.
La gran pregunta: ¿Puede frenarse la innovación en IA antes de que los sistemas de seguridad se pongan al día?
#dyor #NFA✅