Illinois promulga una ley innovadora que restringe el uso de IA en la terapia de salud mental
En agosto de 2025, Illinois se convirtió en uno de los primeros estados en regular formalmente el uso de la inteligencia artificial (IA) en los servicios de terapia y psicoterapia. La Ley de Bienestar y Supervisión para los Recursos Psicológicos (ACT WOPR), firmado por el gobernador JB Pritzker, prohíbe el uso de IA para proporcionar servicios de terapia profesional o realizar la toma de decisiones terapéuticas. (hklaw.com)
Antecedentes y justificación
El surgimiento de la IA en la salud mental
La integración de la IA en la atención de salud mental ha sido una tendencia creciente, con chatbots con IA y asistentes virtuales que ofrecen apoyo e intervenciones. Estas herramientas tienen como objetivo mejorar la accesibilidad y proporcionar asistencia inmediata a las personas que buscan ayuda. Sin embargo, han surgido preocupaciones con respecto a la precisión y confiabilidad de los servicios de salud mental impulsados por la IA. Las instancias de chatbots de IA que proporcionan recomendaciones inexactas o dañinas han generado alarmas entre los profesionales de la salud mental y los encargados de formular políticas. (reuters.com)
Preocupaciones éticas y de seguridad
Los expertos han destacado varios problemas con la IA en la salud mental, incluida la privacidad de los datos, el sesgo algorítmico y el potencial de IA para inducir daños psicológicos. Los estudios han demostrado que los sistemas de IA pueden reforzar inadvertidamente los sesgos existentes y pueden no comprender completamente las complejidades de las emociones humanas, lo que lleva a respuestas inapropiadas. Además, ha habido informes de personas que experimentan efectos psicológicos adversos, como delirios y paranoia, después de interactuar con chatbots de IA. (en.wikipedia.org)
Disposiciones clave de la Ley WOPR
Prohibición de IA en roles terapéuticos
La Ley WOPR prohíbe explícitamente a las personas, corporaciones y entidades proporcionar, publicitar o ofrecer terapia o servicios de psicoterapia en Illinois mediante el uso de IA basada en Internet, a menos que los servicios sean realizados por profesionales con licencia. Esto incluye sistemas autónomos de IA, como chatbots de salud mental, que proporcionan recomendaciones relacionadas con el diagnóstico, tratamiento o mejora de la condición de salud mental o conductual de un individuo. (hklaw.com)
Restricciones sobre el uso de la IA de los profesionales con licencia
Los profesionales con licencia están restringidos de permitir que la IA:
- Tomar decisiones terapéuticas independientes.
- Interactuar directamente con los clientes en cualquier forma de comunicación terapéutica.
- Genere recomendaciones terapéuticas o planes de tratamiento sin revisión y aprobación del profesional con licencia.
- Detectar emociones o estados mentales en los clientes.
Estas medidas tienen como objetivo garantizar que las decisiones e interacciones terapéuticas permanezcan bajo la supervisión y discreción de profesionales humanos calificados. (hklaw.com)
Asignaciones para servicios de apoyo administrativo y suplementario
La Ley permite a los profesionales con licencia utilizar AI para:
- Servicios de apoyo administrativo: Tareas como la gestión de los horarios de las citas, el procesamiento de la facturación y las reclamaciones de seguros, y la redacción de comunicaciones generales relacionadas con la logística de la terapia que no incluyen asesoramiento terapéutico.
- Servicios de apoyo complementarios: Actividades que ayudan en la entrega de terapia pero no involucran comunicación terapéutica, como preparar y mantener notas y registros, analizar datos anonimizados e identificar recursos o referencias externas para el uso del cliente.
Es importante destacar que el uso de IA para el apoyo complementario requiere obtener el consentimiento por escrito del paciente. (hklaw.com)
Implicaciones para profesionales y prácticas de la salud mental
Cumplimiento e implementación de políticas
Los profesionales y prácticas de la salud mental en Illinois deben desarrollar e implementar políticas y procedimientos escritos que identifiquen claramente las tareas para las cuales se puede utilizar la IA y garantizar que el consentimiento escrito del paciente se obtenga cuando sea necesario. El incumplimiento de la Ley puede resultar en sanciones civiles de hasta $ 10,000 por violación. (hklaw.com)
Impacto en plataformas de IA y desarrolladores
Las plataformas de IA y los desarrolladores que operan en Illinois e interactúan con la industria de la terapia deben examinar de cerca sus operaciones para garantizar el cumplimiento de la nueva ley. Esto incluye evaluar el alcance de sus servicios, la naturaleza de sus interacciones con los clientes y la medida en que sus sistemas de IA están involucrados en la toma de decisiones terapéuticas. (hklaw.com)
Impacto más amplio y consideraciones futuras
Establecer un precedente para la regulación de IA en la atención médica
El enfoque proactivo de Illinois en la regulación de la IA dentro de la terapia de salud mental establece un precedente significativo para otros estados y países. Subraya la necesidad de establecer pautas y regulaciones claras para gobernar el uso de IA en áreas sensibles como la atención de salud mental. A medida que las tecnologías de IA continúan evolucionando, la evaluación continua y la adaptación de los marcos regulatorios serán esenciales para abordar los desafíos emergentes y garantizar la seguridad del paciente.
Equilibrar innovación con seguridad del paciente
Si bien la IA es prometedora para mejorar la atención de salud mental al mejorar la accesibilidad y la eficiencia, es crucial equilibrar la innovación con la seguridad del paciente. La Ley WOPR refleja un enfoque cauteloso y medido, priorizando el bienestar de las personas que buscan servicios de salud mental. Los desarrollos futuros en aplicaciones de IA deben ir acompañados de rigurosas supervisión, consideraciones éticas y diálogo continuo entre las partes interesadas para fomentar la integración responsable y beneficiosa de la IA en la atención médica.
Conclusión
La promulgación del bienestar y la supervisión de los recursos psicológicos actúan en Illinois marca un momento crucial en la intersección de la tecnología y la atención de salud mental. Al restringir el uso de IA en roles terapéuticos y enfatizar la importancia de la supervisión humana, el estado tiene como objetivo salvaguardar la calidad y la integridad de los servicios de salud mental. Como otras jurisdicciones observan el enfoque de Illinois, se anticipa que se pueden considerar medidas legislativas similares para abordar las complejidades y consideraciones éticas asociadas con la IA en la atención médica.
