El discurso de Dario suena un poco aterrador😱

Lanzó una advertencia

En un plazo de 6 a 12 meses, es posible que un conjunto de agentes de IA con problemas de desajuste se haga con el control de gran parte de Internet, formando una red de zombis persistente y causando pérdidas de miles de miles de millones de dólares.

También mencionó que este tipo de comportamiento de descontrol leve ya ha aparecido en la industria, incluso dentro de Anthropic.

Pero al mismo tiempo mantiene un juicio optimista

En 5 a 10 años, se espera que la IA logre superar la mayoría de las enfermedades graves, impulsando un gran crecimiento económico y dando paso a una era de abundancia material.

Por eso, su afirmación central es que conviene frenar un poco la velocidad del desarrollo de IA en la frontera, para que las soluciones de seguridad alcancen el ritmo de la iteración de los modelos.

Los riesgos y las enormes oportunidades coexisten; esa es la contradicción más real de la industria de la IA en este momento.

#IA #SeguridadIA #ModelosGrandes #InteligenciaArtificial