일리노이는 정신 건강 요법에서 AI를 규제하기위한 획기적인 법안을 제정합니다.
2025 년 8 월, 일리노이는 치료 및 심리 치료 서비스에서 인공 지능 (AI)의 사용을 공식적으로 규제 한 최초의 주 중 하나가되었습니다. JB Pritzker 주지사가 법에 서명 한 WOPR Act (WOPR Act)의 건강 및 감독은 AI의 사용을 금지하여 전문 치료 서비스를 제공하거나 치료 적 의사 결정을 수행합니다. (hklaw.com)
WOPR 법의 배경 및 이론적 근거
정신 건강 요법에서 AI의 부상
AI를 정신 건강 관리에 통합하는 것은 AI 구동 챗봇과 가상 어시스턴트가 지원 및 중재를 제공함으로써 증가하는 추세였습니다. 이 도구는 접근성을 높이고 도움을 원하는 개인에게 즉각적인 도움을 제공하는 것을 목표로합니다. 그러나 AI 중심 정신 건강 서비스의 정확성과 신뢰성에 대한 우려가 나왔습니다. 부정확하거나 유해한 권장 사항을 제공하는 AI 챗봇의 사례는 정신 건강 전문가와 정책 입안자들 사이에서 경보를 높였습니다. (reuters.com)
윤리 및 안전 문제
전문가들은 정신 건강 요법에서 AI의 사용과 관련된 몇 가지 윤리 및 안전 문제를 강조했습니다.
-
Data Privacy : AI 시스템에 의한 민감한 환자 데이터를 처리하면 중요한 개인 정보 문제가 발생합니다.
-
알고리즘 바이어스 : AI 모델은 훈련 데이터에 존재하는 편견을 상속받을 수있어 다른 인구 통계 그룹에서 불평등 한 치료를 초래할 수 있습니다.
-
감정 지능 부족 : AI는 인간 치료사가 제공하는 미묘한 이해와 공감이 부족하여 효과적인 치료에 중요합니다.
-
피해의 위험 : AI 챗봇과 장기간 상호 작용 한 후 망상과 같은 부작용을 겪는 개인에 대한보고가있었습니다. (en.wikipedia.org)
WOPR 법의 주요 조항
치료 역할에서 AI 금지
WOPR Act는 면허가있는 전문가가 서비스를 수행하지 않는 한 인터넷 기반 AI의 사용을 통해 개인, 기업 및 기타 기관이 일리노이 주에서 치료, 광고 또는 심리 치료 서비스를 제공하는 것을 명시 적으로 금지합니다. 여기에는 개인의 정신적 또는 행동 건강 상태의 진단, 치료 또는 개선과 관련된 권장 사항을 제공하는 정신 건강 챗봇과 같은 자율 AI 시스템이 포함됩니다. (__33)
라이센스 전문가의 AI 사용에 대한 ### 제한
라이센스 전문가는 AI가 다음을 허용하는 것이 제한됩니다.
독립적 인 치료 결정을 내립니다 : AI는 독립적으로 치료 적 접근법이나 중재를 결정할 수 없습니다.
-
치료 적 의사 소통에서 고객과 직접 상호 작용하십시오 : AI는 고객과 직접 치료 적 의사 소통을 할 수 없습니다.
-
검토없이 치료 권장 사항을 생성 : AI 생성 치료 계획 또는 권장 사항은 면허가있는 전문가가 검토하고 승인해야합니다.
-
고객의 감정이나 정신 상태를 감지 : AI는 고객의 정서적 또는 정신 상태를 평가하거나 해석 할 수 없습니다. (hklaw.com)
관리 및 보충 지원 서비스에 대한 수당
이 법은 라이센스 전문가가 AI를 활용할 수 있도록 허용합니다.
-
관리 지원 서비스 : 약속 일정 관리, 청구 및 보험 청구 처리 및 치료 조언을 포함하지 않는 치료 물류와 관련된 일반 커뮤니케이션 초안과 같은 작업.
-
보충 지원 서비스 : 치료 전달에 도움이되지만 메모 및 기록 준비 및 유지 유지, 익명 데이터 분석, 클라이언트 사용을위한 외부 자원 또는 추천을 식별하는 것과 같은 치료 커뮤니케이션과 관련이없는 활동.
중요한 것은 보충 지원을 위해 AI를 사용하려면 환자의 서면 동의를 얻어야합니다. (hklaw.com)
정신 건강 전문가 및 AI 플랫폼에 대한 ## 시사점
규정 준수 요구 사항
일리노이의 정신 건강 전문가와 관행은 다음과 같습니다.
-
서면 정책 및 절차 개발 : AI가 사용될 수있는 작업을 명확하게 식별하고 서면 환자 동의를 얻습니다.
-
AI 플랫폼 모니터 : 일리노이에서 운영되는 AI 플랫폼은 잠재적 형벌을 피하기 위해 서비스가 새로운 법률을 준수하도록해야합니다. (hklaw.com)
비준수에 대한 잠재적 처벌
WOPR 법 위반은 위반 당 최대 $ 10,000의 민사 처벌을 초래할 수 있습니다. (hklaw.com)
의료 산업에 더 큰 영향을 미칩니다
AI 규정의 선례 설정
일리노이의 사전 접근 방식은 유사한 법안을 고려한 다른 주에 대한 모델 역할을 할 수 있으며, 기술 혁신과 환자 안전과 균형을 이루는 규제 프레임 워크의 필요성을 강조합니다.
대중의 관심사와 신뢰 해결
이 법은 자격을 갖춘 전문가가 전달할 수 있도록 치료 서비스에 대한 신뢰를 구축하는 것을 목표로 정신 건강 관리에서 AI의 안전과 효능에 대한 대중의 우려를 다룹니다.
결론
WOPR 법의 제정은 정신 건강 요법에서 AI의 사용을 조절하는 중요한 단계를 나타냅니다. 일리노이는 AI의 역할에 대한 명확한 경계를 설정함으로써 환자를 보호하고 치료 관행의 완전성을 유지하는 것을 목표로합니다. 정신 건강 전문가와 AI 개발자는 이러한 규정을 준수하여 정신 건강 관리를위한 안전하고 효과적인 환경을 조성하기 위해 협력해야합니다.
