15 de setembro, em X, #扎克伯格 publicou uma resposta para refutar os alertas de “extinção por IA”, dizendo que não concorda em criar regras de regulação obrigatória.
A visão dele é bem direta: a própria concorrência do setor já leva #Aİ a garantir controles de segurança adequados no laboratório, sem precisar esperar que a regulação aja. Os usuários não aceitam uma IA que não siga instruções; por isso, os fabricantes têm, naturalmente, incentivos para alinhar os modelos. Confiança é a coisa mais valiosa para o setor.
Zuckerberg usou a Meta como exemplo: o assistente pessoal Muse foi adiado de propósito para entrar em funcionamento, o que se enquadra em controle de risco voluntário. Além disso, o laboratório superinteligente da empresa também introduziu pessoas externas e independentes para fazer auditorias. E a Meta direciona grande parte de seu poder computacional para atender usuários, e não para iterações de autoaperfeiçoamento do modelo — garantindo segurança desde a concepção do sistema.
Em uma fala anterior, em agosto, ele também disse que o poder da IA deveria ser entregue ao público, e não ficar concentrado nas mãos de poucas grandes empresas. Esse grande debate sobre segurança em IA ainda está em andamento, sendo constantemente puxado para um lado e para o outro 🔥