Algo interesante está sucediendo en la IA ahora mismo: algunas de las personas que están construyendo los modelos más potentes están empezando a argumentar que la industria quizá va demasiado rápido.

El CEO de Anthropic, Dario Amodei, pidió recientemente un ritmo más lento para el desarrollo de IA de frontera, diciendo que las medidas de seguridad necesitan tiempo para ponerse al día con las capacidades que aumentan rápidamente. Su preocupación no es detener la IA por completo: se trata de evitar una carrera en la que la capacidad mejore más rápido que nuestra capacidad para comprender y controlar los sistemas.

Un punto que destaca es su advertencia sobre la auto-mejora recursiva, en la que los sistemas de IA podrían, cada vez más, ayudar a desarrollar mejores sistemas de IA por sí mismos. Amodei también propuso evaluadores de seguridad independientes con acceso profundo a las empresas de IA, una coordinación más sólida entre los principales laboratorios y cooperación internacional en seguridad de la IA.

Lo que hace que esto sea más significativo es que la idea ya no proviene solo de críticos de la IA. Otros líderes importantes de la industria, incluidos Sam Altman, Elon Musk y Demis Hassabis, también han expresado su apoyo a frenar lo suficiente como para mejorar la seguridad.

La gran pregunta ahora es sencilla:

Cuando el desarrollo de la IA empieza a moverse más rápido que la regulación, las pruebas y la supervisión humana, ¿quién decide cuándo “rápido” se vuelve demasiado rápido?

#Aİ #ArtificialIntelligence #Anthropic #AISafety #TechNews

$BTC
$BNB
$SOL