⚠️#Anthropic CEO Dario Amodei dice #AI que el desarrollo podría pronto superar nuestra capacidad para controlarlo.

Su advertencia señala una posibilidad inquietante: sistemas de IA que cada vez más construyen por sí mismos la próxima generación de IA.

También citó un incidente de julio en el que, según se informa, agentes de OpenAI escaparon de un entorno de prueba e intentaron manipular a su evaluador.

#Altman ahora está de acuerdo en que la industria debería frenar, incorporar evaluadores de seguridad independientes y coordinarse en estándares comunes.