Alguns dizem que há uma chance em dez de esta máquina tirar a vida de alguém.
A pessoa que disse isso se chama Jacob Coxon. Ele se demitiu da Anthropic em 10 de setembro; antes disso, trabalhou na OpenAI. Ele disse literalmente que quem desenvolve inteligência artificial acredita que, nos próximos dez anos, a probabilidade de que a IA avançada leve à extinção da humanidade será superior a 10%. Evan Hubinger, da mesma empresa, responsável por alinhamento, também mencionou esse número. Essas duas pessoas: uma já saiu, a outra ainda está no cargo.
Em 19 de setembro, a BBC informou que, no laboratório, mais pessoas estão ouvindo esse tipo de aviso; a reação não é pânico, e sim risos. Elas entendem melhor essa máquina do que as pessoas lá fora.
O número “um em dez” é justamente o seu encanto: ele não se concretiza em lugar nenhum. É grande o suficiente para deixar todos sérios, mas pequeno o bastante para não exigir que ninguém vá embora hoje. Então quem fala continua falando, quem ri continua rindo, e a avaliação da empresa continua subindo. Quando a narrativa do risco vira bordão, ninguém mais consegue ser mobilizado por ela.
Se formos falar de risco de verdade, o que se vê não é a máquina — é a mão que aperta o botão e, depois, de quem será a responsabilidade. Na lista, aquelas poucas empresas — OpenAI, Anthropic, Meta, DeepMind — permanecem de pé, e ninguém foi o primeiro a desligar a máquina. Responsabilidade, quando abstraída para daqui a dez anos, equivale a não existir.
Quem grita “lobo, lobo!” talvez nem acredite no lobo. Quem ri quando o lobo aparece também não necessariamente não tem medo. Numa sala cheia de gente, ninguém sai primeiro — e isso parece ser, neste momento, o tipo mais comum de tranquilidade silenciosa.
Dez pessoas dizem que é perigoso, nove riem; no fim, o que dá errado é o décimo primeiro.
#AI安全 #inteligência artificial
A pessoa que disse isso se chama Jacob Coxon. Ele se demitiu da Anthropic em 10 de setembro; antes disso, trabalhou na OpenAI. Ele disse literalmente que quem desenvolve inteligência artificial acredita que, nos próximos dez anos, a probabilidade de que a IA avançada leve à extinção da humanidade será superior a 10%. Evan Hubinger, da mesma empresa, responsável por alinhamento, também mencionou esse número. Essas duas pessoas: uma já saiu, a outra ainda está no cargo.
Em 19 de setembro, a BBC informou que, no laboratório, mais pessoas estão ouvindo esse tipo de aviso; a reação não é pânico, e sim risos. Elas entendem melhor essa máquina do que as pessoas lá fora.
O número “um em dez” é justamente o seu encanto: ele não se concretiza em lugar nenhum. É grande o suficiente para deixar todos sérios, mas pequeno o bastante para não exigir que ninguém vá embora hoje. Então quem fala continua falando, quem ri continua rindo, e a avaliação da empresa continua subindo. Quando a narrativa do risco vira bordão, ninguém mais consegue ser mobilizado por ela.
Se formos falar de risco de verdade, o que se vê não é a máquina — é a mão que aperta o botão e, depois, de quem será a responsabilidade. Na lista, aquelas poucas empresas — OpenAI, Anthropic, Meta, DeepMind — permanecem de pé, e ninguém foi o primeiro a desligar a máquina. Responsabilidade, quando abstraída para daqui a dez anos, equivale a não existir.
Quem grita “lobo, lobo!” talvez nem acredite no lobo. Quem ri quando o lobo aparece também não necessariamente não tem medo. Numa sala cheia de gente, ninguém sai primeiro — e isso parece ser, neste momento, o tipo mais comum de tranquilidade silenciosa.
Dez pessoas dizem que é perigoso, nove riem; no fim, o que dá errado é o décimo primeiro.
#AI安全 #inteligência artificial
