Incluso Sun Zhengyi, de SoftBank, ya está empezando a preocuparse por una posible pérdida de control de la IA. Este podría ser un riesgo que, detrás del rápido desarrollo de la industria de la IA, cada vez resulta menos ignorable.
El 4 de octubre, el CEO del Grupo SoftBank, Sun Zhengyi, señaló en el Foro de Kioto que las capacidades de la IA están mejorando a un ritmo exponencial y que los países deben establecer la confianza mutua y reforzar la cooperación para afrontar, en conjunto, las amenazas a la seguridad que plantean los modelos de IA más potentes. Advirtió que, si una inteligencia súper avanzada cae en manos de personas malintencionadas, podría volverse “súper peligrosa”.
Estas declaraciones merecen atención. Sun Zhengyi siempre ha sido uno de los defensores más firmes de la IA; ahora, incluso él empieza a enfatizar públicamente los riesgos de seguridad. Esto indica que las prioridades de la industria están pasando de perseguir únicamente el poder de cómputo y la capacidad de los modelos a centrarse en cómo controlar las posibles amenazas que la tecnología puede traer.
En mi opinión, la tendencia a largo plazo de la IA no ha cambiado, pero la competencia futura no será solo un duelo de capacidad de modelos y de cómputo. La gobernanza de la seguridad, los sistemas de cumplimiento y el control de riesgos también se convertirán en requisitos clave.
Para el mercado, la seguridad de la IA no significa necesariamente enfriamiento de la industria; al contrario, podría impulsar la concentración de capitales y recursos hacia empresas que cuenten con barreras tecnológicas, capacidad de cumplimiento y ventajas en infraestructura. La verdadera oportunidad quizá no esté solo en quién pueda hacer la IA más fuerte, sino también en quién pueda implementarla de forma más segura.
El 4 de octubre, el CEO del Grupo SoftBank, Sun Zhengyi, señaló en el Foro de Kioto que las capacidades de la IA están mejorando a un ritmo exponencial y que los países deben establecer la confianza mutua y reforzar la cooperación para afrontar, en conjunto, las amenazas a la seguridad que plantean los modelos de IA más potentes. Advirtió que, si una inteligencia súper avanzada cae en manos de personas malintencionadas, podría volverse “súper peligrosa”.
Estas declaraciones merecen atención. Sun Zhengyi siempre ha sido uno de los defensores más firmes de la IA; ahora, incluso él empieza a enfatizar públicamente los riesgos de seguridad. Esto indica que las prioridades de la industria están pasando de perseguir únicamente el poder de cómputo y la capacidad de los modelos a centrarse en cómo controlar las posibles amenazas que la tecnología puede traer.
En mi opinión, la tendencia a largo plazo de la IA no ha cambiado, pero la competencia futura no será solo un duelo de capacidad de modelos y de cómputo. La gobernanza de la seguridad, los sistemas de cumplimiento y el control de riesgos también se convertirán en requisitos clave.
Para el mercado, la seguridad de la IA no significa necesariamente enfriamiento de la industria; al contrario, podría impulsar la concentración de capitales y recursos hacia empresas que cuenten con barreras tecnológicas, capacidad de cumplimiento y ventajas en infraestructura. La verdadera oportunidad quizá no esté solo en quién pueda hacer la IA más fuerte, sino también en quién pueda implementarla de forma más segura.