O desenvolvimento da IA talvez realmente precise dar uma freada. O CEO da Anthropic, Dario Amodei, publicou um texto afirmando que a IA já começou a participar da construção da próxima geração de modelos, e que ele teme que sistemas mais fortes nos próximos 6 a 12 meses possam trazer sérios riscos de segurança cibernética. Por isso, ele defende a introdução de avaliações de segurança contínuas conduzidas por terceiros, além de incentivar que empresas líderes de IA adotem padrões unificados, ao mesmo tempo em que limita a exportação de chips e equipamentos avançados para a China. Ele acredita que uma pausa total nas medidas recentes não é realista, mas que é necessário reservar mais tempo para o alinhamento de segurança.

Na minha opinião, desacelerar um pouco para fazer validações de segurança não é uma coisa ruim, afinal, quanto mais forte a capacidade, maiores podem ser os custos após um possível problema. No entanto, como equilibrar, na prática, a competição tecnológica e a segurança é, de fato, algo difícil.

O que você acha: a IA de ponta agora deveria reduzir ativamente o ritmo, ou é mais realista continuar disputando velocidade?