#AnthropicCEOCallsForAISlowdown En su ensayo, "We Must Pace the Frontier," el CEO de Anthropic, Dario Amodei, pidió a la industria de la inteligencia artificial que reduzca la velocidad del avance de las capacidades para permitir que la alineación con la seguridad, la evaluación y la gobernanza se pongan al día.
$BR Si bien Amodei sostiene que la IA tiene un inmenso potencial para mejorar la vida de las personas, advirtió que la aceleración no supervisada—en particular la impulsada por la "mejora recursiva de sí mismo," en la que los modelos construyen a sus propios sucesores—podría superar la capacidad de la humanidad para comprender o controlar estos sistemas.
Para abordar estos riesgos sin detener la innovación por completo, Amodei propuso un marco de tres partes para "marcar el ritmo del frente":
$CVC Evaluadores integrados: Otorgar a auditores independientes y externos de seguridad un acceso permanente, a nivel de empleados, para inspeccionar las capacidades del modelo y verificar las salvaguardas.
Coordinación democrática: Establecer estándares de seguridad compartidos entre las empresas de IA de vanguardia en naciones democráticas para evitar una carrera comercial hacia el abismo.
Coordinación global: Buscar acuerdos diplomáticos con potencias internacionales para prevenir escaladas peligrosas de capacidades en todo el mundo.
$AIN Respaldada por líderes de la industria como Sam Altman y Elon Musk, la iniciativa subraya que un retraso temporal y estructurado podría comprar el tiempo crítico necesario para garantizar que los sistemas superinteligentes se mantengan alineados y seguros.
#Write2Earrn #BinanceOfficial