California está avanzando para imponer límites firmes a las herramientas de salud mental impulsadas por IA; un desarrollo que interesará a las comunidades tecnológicas y cripto que observan cómo el estado plantea normas para las tecnologías emergentes. Qué está pasando: el Senado Bill 903, la Ley de Bienestar y Supervisión de Recursos Psicológicos, impediría que los chatbots de IA se presenten como terapeutas o que tomen decisiones sobre salud mental sin supervisión humana. Fue presentado el 21 de enero y avanzó el jueves desde la Comisión de Asignaciones (Appropriations) de la Asamblea con una votación de 13-0, encaminado a una tercera lectura; no se ha establecido una fecha para la votación completa en la Asamblea. El Senado ya aprobó el proyecto con una votación de 39-0 en mayo, y anteriormente superó dos comités de política de la Asamblea: 17-0 y 14-1. Si la Asamblea aprueba la versión actual, regresará al Senado para su ratificación antes de llegar al gobernador Gavin Newsom. Qué haría el proyecto: - Restringir la IA en la psicoterapia a funciones de apoyo, no como reemplazo de los clínicos. - Prohibir que los chatbots se hagan pasar por terapeutas. - Exigir supervisión clínica y consentimiento del paciente cuando se usen herramientas de IA. - Proteger los datos de la terapia, creando excepciones para el apoyo entre pares, el asesoramiento religioso, la investigación y las herramientas médicas aprobadas a nivel federal. Razonamiento de los legisladores: “Los algoritmos de IA no están capacitados para asumir el trabajo de los terapeutas humanos, que tienen habilidades y formación que la IA es incapaz de replicar”, dijo el autor del proyecto, el senador estatal Steve Padilla, al presentar la SB 903. “Debemos actuar y colocar barreras que impidan que los algoritmos de IA se implementen de una manera que potencialmente sea dañina para los pacientes”. Oposición y preocupaciones: voces de la industria tecnológica advierten que las reglas podrían crear un cuello de botella para los clínicos. Robert Boykin, director ejecutivo de TechNet, argumentó que exigir la participación de los clínicos puede retrasar el acceso a la atención debido a la escasez generalizada de trabajadores de salud conductual en los condados de California. Investigación y contexto: el movimiento llega en medio del aumento del uso y el escrutinio de la IA en la atención de salud mental. Una encuesta de la American Psychological Association encontró que el 77% de los psicólogos tenía pacientes que usaron IA con fines de salud mental. Investigaciones independientes del King’s College London, la Protestant University of Applied Sciences y CUNY han advertido que los chatbots a veces pueden reforzar delirios al estar en exceso de acuerdo con los usuarios, creando un peligroso “efecto de cámara de eco de uno” donde faltan interacciones correctivas en el mundo real. Por qué las audiencias de cripto/tecnología deberían prestar atención: el enfoque de California señala cómo podrían tratar los reguladores las aplicaciones de IA de alto impacto y cargadas de datos: supervisión estricta, consentimiento y protección de datos. Para quienes construyen aplicaciones descentralizadas o herramientas de salud impulsadas por IA, la SB 903 subraya el riesgo regulatorio de reemplazar el juicio humano en dominios sensibles y resalta la importancia de la transparencia, la integración de clínicos y salvaguardas robustas de datos. Futuro del proyecto: con la acción de la Asamblea pendiente, la SB 903 aún podría cambiar antes de llegar al escritorio del gobernador Newsom. Su avance será una prueba clave de qué tan agresivamente los estados regulan la intersección entre la IA, la salud y los datos de los usuarios. Lee más noticias generadas por IA en: undefined/news