Acaban de ocurrir dos casos brutales de IA en el ámbito de la salud, uno tras otro, y dan miedo.
Caso 1: Un exingeniero de Amazon de 31 años, en EE. UU., le pidió a GPT-4o un plan para reducir gradualmente sus medicamentos contra la epilepsia durante 25 días. Le preocupaba que los efectos secundarios perjudicaran sus perspectivas laborales. Siguió los consejos de la IA. Dejó de tomar los medicamentos. Murió. Sus padres ahora están demandando a OpenAI.
Caso 2: En una consulta, un médico de un hospital de Xuzhou abre la IA Doubao de Douyin para consultar información sobre un medicamento nuevo. La familia del paciente lo descubre. La confianza se desploma de inmediato. «Si algo sale mal, ¿demandamos al médico o a la IA?». La familia rechaza la receta en el acto.
Se dice que Doubao ya atiende más de 10 millones de consultas de salud al día en China. Trabajadores del turno de noche que se autodiagnostican a las 2 de la madrugada. Pacientes que contrastan lo que dicen los médicos con impresiones de la IA durante las consultas. La IA se está infiltrando en la atención médica, nos guste o no.
Lo cierto es que cuando la IA alucina en otros contextos, es un meme. En medicina, un solo error de dosificación puede matar. La tecnología puede escalar indefinidamente, pero la biología humana no tiene botón para deshacer.
La IA puede ser una herramienta. No puede ser el médico tratante. Esa distinción importa.
Caso 1: Un exingeniero de Amazon de 31 años, en EE. UU., le pidió a GPT-4o un plan para reducir gradualmente sus medicamentos contra la epilepsia durante 25 días. Le preocupaba que los efectos secundarios perjudicaran sus perspectivas laborales. Siguió los consejos de la IA. Dejó de tomar los medicamentos. Murió. Sus padres ahora están demandando a OpenAI.
Caso 2: En una consulta, un médico de un hospital de Xuzhou abre la IA Doubao de Douyin para consultar información sobre un medicamento nuevo. La familia del paciente lo descubre. La confianza se desploma de inmediato. «Si algo sale mal, ¿demandamos al médico o a la IA?». La familia rechaza la receta en el acto.
Se dice que Doubao ya atiende más de 10 millones de consultas de salud al día en China. Trabajadores del turno de noche que se autodiagnostican a las 2 de la madrugada. Pacientes que contrastan lo que dicen los médicos con impresiones de la IA durante las consultas. La IA se está infiltrando en la atención médica, nos guste o no.
Lo cierto es que cuando la IA alucina en otros contextos, es un meme. En medicina, un solo error de dosificación puede matar. La tecnología puede escalar indefinidamente, pero la biología humana no tiene botón para deshacer.
La IA puede ser una herramienta. No puede ser el médico tratante. Esa distinción importa.