Illinois vedtager banebrydende lovgivning for at regulere AI i mental sundhedsterapi

I august 2025 blev Illinois en af ​​de første stater, der formelt regulerer brugen af ​​kunstig intelligens (AI) i terapi og psykoterapitjenester. Wellness and Oversight for Psychological Resources Act (WOPR Act), underskrevet i loven af ​​guvernør JB Pritzker, forbyder brugen af ​​AI til at levere professionelle terapitjenester eller udføre terapeutisk beslutningstagning. (hklaw.com)

Baggrund og begrundelse for WOPR -loven

Fremkomsten af ​​AI i mental sundhedsterapi

Integrationen af ​​AI i mental sundhedspleje har været en voksende tendens med AI-drevne chatbots og virtuelle assistenter, der tilbyder støtte og interventioner. Disse værktøjer sigter mod at øge tilgængeligheden og yde øjeblikkelig hjælp til enkeltpersoner, der søger hjælp. Imidlertid er der opstået bekymring for nøjagtigheden og pålideligheden af ​​AI-drevne mentale sundhedsydelser. Forekomster af AI -chatbots, der leverer unøjagtige eller skadelige henstillinger, har rejst alarmer blandt fagfolk i mental sundhed og beslutningstagere. (reuters.com)

Etiske og sikkerhedsmæssige bekymringer

Eksperter har fremhævet adskillige etiske og sikkerhedsmæssige bekymringer forbundet med brugen af ​​AI i mental sundhedsterapi:

• Data Privacy: Håndtering af følsomme patientdata fra AI -systemer rejser betydelige privatlivsproblemer.

• Algoritmisk bias: AI -modeller kan arve forspændinger, der er til stede i deres træningsdata, hvilket fører til ulig behandling på tværs af forskellige demografiske grupper.

• Mangel på følelsesmæssig intelligens: AI mangler den nuancerede forståelse og empati, som menneskelige terapeuter giver, hvilket er afgørende for effektiv terapi.

• Risiko for skade: Der har været rapporter om individer, der oplever bivirkninger, såsom vrangforestillinger, efter langvarige interaktioner med AI -chatbots. (en.wikipedia.org)

Nøglebestemmelser i WOPR -loven

Forbud mod AI i terapeutiske roller

WOPR-loven forbyder eksplicit enkeltpersoner, virksomheder og andre enheder at levere, reklamere eller tilbyde terapi eller psykoterapitjenester i Illinois ved hjælp af internetbaseret AI, medmindre tjenesterne udføres af licenserede fagfolk. Dette inkluderer autonome AI -systemer, såsom Mental Health Chatbots, der giver anbefalinger relateret til diagnose, behandling eller forbedring af den enkeltes mentale eller adfærdsmæssige sundhedstilstand. (hklaw.com)

Begrænsninger for licenserede fagfolk 'brug af AI

Licensierede fagfolk er begrænset til at lade AI mulighed for:

1. Tag uafhængige terapeutiske beslutninger: AI kan ikke uafhængigt bestemme terapeutiske tilgange eller interventioner.

2. interagerer direkte med klienter i terapeutisk kommunikation: AI kan ikke deltage i direkte terapeutisk kommunikation med klienter.

3. Generer terapeutiske anbefalinger uden gennemgang: AI-genererede behandlingsplaner eller henstillinger skal gennemgås og godkendes af den licenserede professionelle.

4. Registrer følelser eller mentale tilstande hos klienter: AI kan ikke vurdere eller fortolke de følelsesmæssige eller mentale tilstande for klienter. (hklaw.com)

Tillæg til administrative og supplerende supporttjenester

Loven tillader licenserede fagfolk at bruge AI til:

• Administrative supporttjenester: Opgaver såsom styring af aftaleplaner, behandling af fakturering og forsikringskrav og udarbejdelse af generelle kommunikation relateret til terapilogistik, der ikke inkluderer terapeutisk rådgivning.

• Supplerende supporttjenester: Aktiviteter, der hjælper med levering af terapi, men ikke involverer terapeutisk kommunikation, såsom at forberede og vedligeholde noter og poster, analysere anonyme data og identificere eksterne ressourcer eller henvisninger til klientbrug.

Det er vigtigt, at brugen af ​​AI til supplerende støtte kræver opnåelse af patientens skriftlige samtykke. (hklaw.com)

Implikationer for fagfolk inden for mental sundhed og AI -platforme

Overholdelseskrav

Mental sundhedspersonale og praksis i Illinois bør:

• Udvikle skriftlige politikker og procedurer: Identificer tydeligt opgaver, hvor AI kan bruges, og sikre, at skriftligt patientens samtykke opnås.

• Overvåg AI -platforme: AI -platforme, der opererer i Illinois, skal sikre, at deres tjenester overholder den nye lov for at undgå potentielle sanktioner. (hklaw.com)

Potentielle sanktioner for manglende overholdelse

Overtrædelser af WOPR -loven kan resultere i civile sanktioner på op til $ 10.000 pr. Overtrædelse. (hklaw.com)

bredere indflydelse på sundhedsindustrien

Indstilling af en præcedens for AI -regulering

Illinois 'proaktive tilgang kan tjene som en model for andre stater i betragtning af lignende lovgivning og fremhæve behovet for lovgivningsmæssige rammer, der balanserer teknologisk innovation med patientsikkerhed.

adressering af offentlige bekymringer og tillid

Loven vedrører offentlige bekymringer om sikkerheden og effektiviteten af ​​AI i mental sundhedspleje med det formål at skabe tillid til terapeutiske tjenester ved at sikre, at de leveres af kvalificerede fagfolk.

Konklusion

Vedtagelsen af ​​WOPR -loven repræsenterer et betydeligt skridt i reguleringen af ​​brugen af ​​AI i mental sundhedsterapi. Ved at sætte klare grænser for AIs rolle sigter Illinois mod at beskytte patienter og opretholde integriteten af ​​terapeutisk praksis. Professionelle inden for mental sundhed og AI -udviklere skal samarbejde for at sikre overholdelse af disse regler og fremme et sikkert og effektivt miljø for mental sundhedspleje.

Illinois blokerer AI fra at være din terapeut:

• Illinois blocks AI from being your therapist