Até mesmo Sun Dezheng, da SoftBank, já começou a se preocupar com a possibilidade de a IA sair do controle. Esse pode ser um dos riscos que, por trás do rápido desenvolvimento acelerado da indústria de IA, estão se tornando cada vez mais impossíveis de ignorar.
No dia 4 de outubro, o CEO do Grupo SoftBank, Sun Zhengyi, afirmou em uma atividade do Fórum de Kyoto que as capacidades da IA estão melhorando em velocidade exponencial e que os países precisam estabelecer confiança mútua, reforçar a cooperação e enfrentar em conjunto as ameaças à segurança trazidas por modelos de IA poderosos. Ele alertou que, uma vez que uma inteligência superavançada caia nas mãos de pessoas de má-fé, pode se tornar “super perigosa”.
Essa declaração merece atenção. Sun Zhengyi sempre foi um dos mais firmes defensores da IA; agora, até ele começa a enfatizar publicamente os riscos de segurança, o que indica que o foco do setor está mudando: de uma busca apenas por poder de computação e capacidade dos modelos, para a forma de controlar as ameaças potenciais que a tecnologia pode trazer.
Minha avaliação é que a tendência de longo prazo da IA não mudou, mas a competição futura não será apenas um duelo de capacidade de modelos e poder de computação. A governança de segurança, os sistemas de conformidade e o controle de riscos também se tornarão critérios importantes.
Para o mercado, segurança em IA não significa necessariamente desaceleração da indústria; pelo contrário, pode impulsionar a concentração de capital e recursos em empresas que tenham barreiras tecnológicas, capacidade de conformidade e vantagens em infraestrutura. A oportunidade real talvez não esteja apenas em quem consegue tornar a IA mais forte, mas também em quem consegue fazer a IA ser implementada de forma mais segura.
No dia 4 de outubro, o CEO do Grupo SoftBank, Sun Zhengyi, afirmou em uma atividade do Fórum de Kyoto que as capacidades da IA estão melhorando em velocidade exponencial e que os países precisam estabelecer confiança mútua, reforçar a cooperação e enfrentar em conjunto as ameaças à segurança trazidas por modelos de IA poderosos. Ele alertou que, uma vez que uma inteligência superavançada caia nas mãos de pessoas de má-fé, pode se tornar “super perigosa”.
Essa declaração merece atenção. Sun Zhengyi sempre foi um dos mais firmes defensores da IA; agora, até ele começa a enfatizar publicamente os riscos de segurança, o que indica que o foco do setor está mudando: de uma busca apenas por poder de computação e capacidade dos modelos, para a forma de controlar as ameaças potenciais que a tecnologia pode trazer.
Minha avaliação é que a tendência de longo prazo da IA não mudou, mas a competição futura não será apenas um duelo de capacidade de modelos e poder de computação. A governança de segurança, os sistemas de conformidade e o controle de riscos também se tornarão critérios importantes.
Para o mercado, segurança em IA não significa necessariamente desaceleração da indústria; pelo contrário, pode impulsionar a concentração de capital e recursos em empresas que tenham barreiras tecnológicas, capacidade de conformidade e vantagens em infraestrutura. A oportunidade real talvez não esteja apenas em quem consegue tornar a IA mais forte, mas também em quem consegue fazer a IA ser implementada de forma mais segura.