Illinois antar banbrytande lagstiftning för att reglera AI i mentalhälsoprogram

I augusti 2025 blev Illinois en av de första staterna som formellt reglerade användningen av konstgjord intelligens (AI) i terapi och psykoterapitjänster. Lagen om wellness och övervakning för psykologiska resurser (WOPR-lag), undertecknat lag av guvernör JB Pritzker, förbjuder användning av AI för att tillhandahålla professionella terapitjänster eller utföra terapeutiskt beslutsfattande. (hklaw.com)

Bakgrund och skäl för WOPR -lagen

Ökningen av AI i mentalhälsoterapi

Integrationen av AI i mentalvård har varit en växande trend, med AI-drivna chatbots och virtuella assistenter som erbjuder stöd och interventioner. Dessa verktyg syftar till att öka tillgängligheten och ge omedelbar hjälp till individer som söker hjälp. Emellertid har oro uppstått när det gäller noggrannheten och tillförlitligheten för AI-driven mentalvårdstjänster. Fall av AI -chatbots som tillhandahåller felaktiga eller skadliga rekommendationer har väckt larm bland mentalvårdspersonal och beslutsfattare. (reuters.com)

Etiska och säkerhetsproblem

Experter har framhävt flera etiska och säkerhetsproblem som är förknippade med användningen av AI i mentalhälsoproduktion:

• Datasekretess: Hanteringen av känslig patientdata med AI -system väcker betydande integritetsproblem.

• Algoritmisk förspänning: AI -modeller kan ärva fördomar som finns i sina träningsdata, vilket leder till ojämlik behandling mellan olika demografiska grupper.

• Brist på emotionell intelligens: AI saknar den nyanserade förståelsen och empati som mänskliga terapeuter tillhandahåller, vilket är avgörande för effektiv terapi.

• Risk för skada: Det har rapporterats om individer som upplever negativa effekter, såsom illusioner, efter långvariga interaktioner med AI -chatbots. (en.wikipedia.org)

Nyckelbestämmelser i WOPR -lagen

Förbud mot AI i terapeutiska roller

WOPR Act förbjuder uttryckligen individer, företag och andra enheter från att tillhandahålla, reklamera eller erbjuda terapi eller psykoterapitjänster i Illinois genom användning av internetbaserad AI, såvida inte tjänsterna utförs av licensierade yrkesverksamma. Detta inkluderar autonoma AI -system, såsom chatbots mental hälsa, som ger rekommendationer relaterade till diagnos, behandling eller förbättring av en individs mentala eller beteendemässiga hälsotillstånd. (hklaw.com)

Begränsningar av licensierade proffs användning av AI

Licensierade yrkesverksamma är begränsade från att tillåta AI till:

1. Ta oberoende terapeutiska beslut: AI kan inte självständigt bestämma terapeutiska tillvägagångssätt eller interventioner.

2. Interagera direkt med klienter i terapeutisk kommunikation: AI kan inte engagera sig i direkt terapeutisk kommunikation med klienter.

3. Generera terapeutiska rekommendationer utan granskning: AI-genererade behandlingsplaner eller rekommendationer måste granskas och godkännas av den licensierade professionella.

4. Upptäck känslor eller mentala tillstånd hos klienter: AI kan inte bedöma eller tolka klienternas känslomässiga eller mentala tillstånd. (hklaw.com)

Ersättningar för administrativa och kompletterande supporttjänster

Lagen tillåter licensierade yrkesverksamma att använda AI för:

• Administrativa supporttjänster: Uppgifter som hantering av möten, bearbetning av fakturering och försäkringsanspråk och utarbetar allmän kommunikation relaterad till terapilogistik som inte inkluderar terapeutiska råd.

• Kompletterande supporttjänster: Aktiviteter som hjälper till att leverera terapi men inte involverar terapeutisk kommunikation, såsom att förbereda och underhålla anteckningar och register, analysera anonymiserade data och identifiera externa resurser eller hänvisningar för klientanvändning.

Det är viktigt att användningen av AI för kompletterande stöd kräver att patientens skriftliga samtycke får. (hklaw.com)

Implikationer för mentalvårdspersonal och AI -plattformar

Krav på överensstämmelse

Mental hälso- och sjukvårdspersonal och praxis i Illinois borde:

• Utveckla skriftliga policyer och förfaranden: Identifiera tydligt uppgifter där AI kan användas och säkerställa att skriftligt patientens samtycke erhålls.

• Övervaka AI -plattformar: AI -plattformar som verkar i Illinois bör se till att deras tjänster följer den nya lagen för att undvika potentiella påföljder. (hklaw.com)

Potentiella påföljder för bristande efterlevnad

Överträdelser av WOPR -lagen kan leda till civila påföljder på upp till 10 000 dollar per överträdelse. (hklaw.com)

Bredare påverkan på sjukvårdsindustrin

Ställa in ett prejudikat för AI -reglering

Illinois proaktiva strategi kan fungera som en modell för andra stater som överväger liknande lagstiftning, vilket belyser behovet av regelverk som balanserar teknisk innovation med patientsäkerhet.

Att ta itu med allmänhetens oro och förtroende

Lagen behandlar allmänna oro över säkerheten och effektiviteten hos AI inom mentalvård och syftar till att bygga förtroende för terapeutiska tjänster genom att se till att de levereras av kvalificerade yrkesverksamma.

Slutsats

Antagandet av WOPR -lagen representerar ett betydande steg för att reglera användningen av AI i mentalhälsopehandling. Genom att sätta tydliga gränser för AI: s roll syftar Illinois till att skydda patienter och upprätthålla integriteten i terapeutiska metoder. Mental hälso- och sjukvårdspersonal och AI -utvecklare måste samarbeta för att säkerställa att dessa regler följer en säker och effektiv miljö för mentalvård.

Illinois blockerar AI från att vara din terapeut:

• Illinois blocks AI from being your therapist