Dois casos brutais envolvendo IA na área da saúde acabaram de acontecer em sequência — e são assustadores.
Caso 1: um ex-engenheiro da Amazon de 31 anos, nos EUA, pediu ao GPT-4o um plano de redução gradual da medicação para epilepsia ao longo de 25 dias. Tinha medo de que os efeitos colaterais prejudicassem suas perspectivas de emprego. Seguiu o conselho da IA. Parou de tomar a medicação. Morreu. Agora, os pais estão processando a OpenAI.
Caso 2: um médico de um hospital de Xuzhou abriu o Doubao, a IA do Douyin, durante uma consulta para verificar informações sobre um medicamento novo. A família do paciente flagrou o médico. A confiança desmoronou na hora. "Se algo der errado, processamos o médico ou a IA?" A família recusou a receita ali mesmo.
Dizem que o Doubao agora responde a mais de 10 milhões de consultas sobre saúde por dia na China. Trabalhadores do turno da noite fazendo autodiagnósticos às 2 da manhã. Pacientes conferindo o que os médicos dizem com impressões feitas por IA durante as consultas. A IA está se infiltrando na área da saúde, gostemos ou não.
O problema é este: quando a IA alucina em outros contextos, vira meme. Na medicina, um erro de dosagem pode matar. A tecnologia pode ser ampliada infinitamente, mas a biologia humana não tem botão para desfazer.
A IA pode ser uma ferramenta. Não pode ser o médico responsável pelo tratamento. Essa distinção importa.
Caso 1: um ex-engenheiro da Amazon de 31 anos, nos EUA, pediu ao GPT-4o um plano de redução gradual da medicação para epilepsia ao longo de 25 dias. Tinha medo de que os efeitos colaterais prejudicassem suas perspectivas de emprego. Seguiu o conselho da IA. Parou de tomar a medicação. Morreu. Agora, os pais estão processando a OpenAI.
Caso 2: um médico de um hospital de Xuzhou abriu o Doubao, a IA do Douyin, durante uma consulta para verificar informações sobre um medicamento novo. A família do paciente flagrou o médico. A confiança desmoronou na hora. "Se algo der errado, processamos o médico ou a IA?" A família recusou a receita ali mesmo.
Dizem que o Doubao agora responde a mais de 10 milhões de consultas sobre saúde por dia na China. Trabalhadores do turno da noite fazendo autodiagnósticos às 2 da manhã. Pacientes conferindo o que os médicos dizem com impressões feitas por IA durante as consultas. A IA está se infiltrando na área da saúde, gostemos ou não.
O problema é este: quando a IA alucina em outros contextos, vira meme. Na medicina, um erro de dosagem pode matar. A tecnologia pode ser ampliada infinitamente, mas a biologia humana não tem botão para desfazer.
A IA pode ser uma ferramenta. Não pode ser o médico responsável pelo tratamento. Essa distinção importa.