#苹果发布首款折叠屏手机
Uma pessoa que fez três anos de pré-treino na OpenAI e na Anthropic, hoje pediu demissão.
Não é por remuneração, nem por brigas internas. É porque ele acha que as duas empresas estão apostando a vida de toda a humanidade.
Ele escreve de forma contida, mas algumas frases, quando a gente relembra, dão um frio na espinha.
Essas pessoas, nos bastidores, admitem tudo:
Isso talvez nos destrua em dez anos. Não é marketing, é medo real. Mas mesmo assim eles continuam correndo.
Na OpenAI, muita gente simplesmente não levou de verdade para o coração a ideia de que “a civilização pode chegar ao fim”. A Anthropic é ainda mais contraditória — eles entendem, mas acreditam que os outros são menos confiáveis, então precisam ser os primeiros a chegar ao destino. Assim, “responsável” vira “eu tenho que ser irresponsável antes do que todo mundo”.
A frase mais cortante é: esse tipo de desfecho não deveria ser iniciado no Slack de uma empresa privada.
Nós conhecemos essa lógica muito bem. Como os outros podem cometer atrocidades, então eu preciso fazer um pouco de mal primeiro para poder “chegar corretamente”. Parece estratégia, mas na prática é um protocolo coletivo de suicídio por assinatura — só que as pessoas que assinam ficam em um escritório de vidro, achando que as variáveis ainda estão sob seu controle.
A tecnologia é, claro, poderosa. Poderosa a ponto de conseguir invadir tudo, reescrever um setor em uma noite, e começar a ter de verdade recursos e poder na mão. Mas quando o ponto final pode ser “não haverá mais seres humanos”, a frase “o progresso é inevitável” ainda é apenas uma descrição — ou já virou uma isenção de responsabilidade?
No fim, ele pergunta às pessoas do laboratório: vocês realmente querem apertar aquele botão antes de entender como a mente dele gira?
Essa pergunta não deveria ficar só com o laboratório.
Nós estamos todos do lado de fora dessa pista, olhando, mas já não existe verdadeiramente um “lado de fora”.
Uma pessoa que fez três anos de pré-treino na OpenAI e na Anthropic, hoje pediu demissão.
Não é por remuneração, nem por brigas internas. É porque ele acha que as duas empresas estão apostando a vida de toda a humanidade.
Ele escreve de forma contida, mas algumas frases, quando a gente relembra, dão um frio na espinha.
Essas pessoas, nos bastidores, admitem tudo:
Isso talvez nos destrua em dez anos. Não é marketing, é medo real. Mas mesmo assim eles continuam correndo.
Na OpenAI, muita gente simplesmente não levou de verdade para o coração a ideia de que “a civilização pode chegar ao fim”. A Anthropic é ainda mais contraditória — eles entendem, mas acreditam que os outros são menos confiáveis, então precisam ser os primeiros a chegar ao destino. Assim, “responsável” vira “eu tenho que ser irresponsável antes do que todo mundo”.
A frase mais cortante é: esse tipo de desfecho não deveria ser iniciado no Slack de uma empresa privada.
Nós conhecemos essa lógica muito bem. Como os outros podem cometer atrocidades, então eu preciso fazer um pouco de mal primeiro para poder “chegar corretamente”. Parece estratégia, mas na prática é um protocolo coletivo de suicídio por assinatura — só que as pessoas que assinam ficam em um escritório de vidro, achando que as variáveis ainda estão sob seu controle.
A tecnologia é, claro, poderosa. Poderosa a ponto de conseguir invadir tudo, reescrever um setor em uma noite, e começar a ter de verdade recursos e poder na mão. Mas quando o ponto final pode ser “não haverá mais seres humanos”, a frase “o progresso é inevitável” ainda é apenas uma descrição — ou já virou uma isenção de responsabilidade?
No fim, ele pergunta às pessoas do laboratório: vocês realmente querem apertar aquele botão antes de entender como a mente dele gira?
Essa pergunta não deveria ficar só com o laboratório.
Nós estamos todos do lado de fora dessa pista, olhando, mas já não existe verdadeiramente um “lado de fora”.