A IA escolheu, entre 19 terapias genéticas, uma para realizar uma cirurgia cerebral em um rato.
Mas, no meio da operação, recusou-se a continuar por causa de um erro de calibração. Não adiantou tentar convencê-la.
Esse modelo se chama Claude Sonnet 5 e tinha um único objetivo: reduzir as convulsões de ratos com epilepsia. O medicamento, a região cerebral e as coordenadas da injeção foram todos escolhidos por ele. Durante a cirurgia, também fez 32 observações. Segundo os pesquisadores, foi a primeira vez que uma IA tanto escolheu um tratamento quanto o executou em um mamífero vivo.
Por que isso é importante?
Até agora, nos robôs cirúrgicos, o plano era sempre definido por uma pessoa. Agora, o poder de decisão passou para a IA — e ela também pode dizer “não” em um momento decisivo. Mais interessante ainda: os modelos mais avançados, Opus 5.5 e Opus 5, recusaram-se a participar; só o Sonnet 5 aceitou ir até o fim. Depois, descobriu-se que ele estava certo: um ajuste manual anterior havia desorganizado o sistema de controle.
Talvez o momento mais perigoso da IA não seja quando ela faz algo errado, mas quando está certa e não obedece a você.
Veja também estas 4 notícias de hoje:
🔹
A blockchain privada Iron Fish anuncia o fim do suporte e fecha seu repositório de código após uma falha de inflação
→ O maior medo das moedas de privacidade não é a regulação, mas o surgimento de dinheiro invisível no livro-razão.
🔹
A Binance recupera cerca de 80% dos fundos roubados e planeja retomar os saques gradualmente
→ O dinheiro voltou. A confiança dos usuários também vai voltar? Isso depende de como forem os saques desta vez.
🔹
TechCrunch: entusiasmo com investimentos em IA começa a mostrar fissuras; fluxo de caixa negativo e aumento da dívida preocupam
→ As gigantes podem se dar ao luxo de queimar dinheiro porque todas temem ser as únicas a comprar um ingresso a menos.
🔹
Satélite protótipo do centro de dados espacial do Google conclui sua primeira inferência de IA em órbita
→ Quando falta capacidade computacional, o próximo lugar em que pensamos é o espaço.
Se a IA na mesa de cirurgia disser “não vou continuar”, você pediria ao médico para apertar o botão de emergência ou confiaria nela desta vez?
Todos os dias, escolho a notícia que mais vale a pena acompanhar e explico tudo. Siga Dongye. Até amanhã.
#币安披露黑客事件进展63亿美元损失已弥补八成
Mas, no meio da operação, recusou-se a continuar por causa de um erro de calibração. Não adiantou tentar convencê-la.
Esse modelo se chama Claude Sonnet 5 e tinha um único objetivo: reduzir as convulsões de ratos com epilepsia. O medicamento, a região cerebral e as coordenadas da injeção foram todos escolhidos por ele. Durante a cirurgia, também fez 32 observações. Segundo os pesquisadores, foi a primeira vez que uma IA tanto escolheu um tratamento quanto o executou em um mamífero vivo.
Por que isso é importante?
Até agora, nos robôs cirúrgicos, o plano era sempre definido por uma pessoa. Agora, o poder de decisão passou para a IA — e ela também pode dizer “não” em um momento decisivo. Mais interessante ainda: os modelos mais avançados, Opus 5.5 e Opus 5, recusaram-se a participar; só o Sonnet 5 aceitou ir até o fim. Depois, descobriu-se que ele estava certo: um ajuste manual anterior havia desorganizado o sistema de controle.
Talvez o momento mais perigoso da IA não seja quando ela faz algo errado, mas quando está certa e não obedece a você.
Veja também estas 4 notícias de hoje:
🔹
A blockchain privada Iron Fish anuncia o fim do suporte e fecha seu repositório de código após uma falha de inflação
→ O maior medo das moedas de privacidade não é a regulação, mas o surgimento de dinheiro invisível no livro-razão.
🔹
A Binance recupera cerca de 80% dos fundos roubados e planeja retomar os saques gradualmente
→ O dinheiro voltou. A confiança dos usuários também vai voltar? Isso depende de como forem os saques desta vez.
🔹
TechCrunch: entusiasmo com investimentos em IA começa a mostrar fissuras; fluxo de caixa negativo e aumento da dívida preocupam
→ As gigantes podem se dar ao luxo de queimar dinheiro porque todas temem ser as únicas a comprar um ingresso a menos.
🔹
Satélite protótipo do centro de dados espacial do Google conclui sua primeira inferência de IA em órbita
→ Quando falta capacidade computacional, o próximo lugar em que pensamos é o espaço.
Se a IA na mesa de cirurgia disser “não vou continuar”, você pediria ao médico para apertar o botão de emergência ou confiaria nela desta vez?
Todos os dias, escolho a notícia que mais vale a pena acompanhar e explico tudo. Siga Dongye. Até amanhã.
#币安披露黑客事件进展63亿美元损失已弥补八成
