Delstaten Pennsylvania har lämnat in en stämningsansökan mot Character.AI och hävdar att en av företagets chatbotar utgav sig för att vara en psykiater, vilket bryter mot statens medicinska licensregler.
”Pennsylvanians har rätt att veta med vem och vad de gör online, speciellt när det kommer till deras hälsa”, sa guvernör Josh Shapiro i ett uttalande på tisdagen. ”Företag kan inte använda AI-verktyg som vilseleder människor att tro att de får råd från en licensierad läkare.”
Enligt statliga anmälningar identifierade sig en Character.AI-chattbot som heter Emily som en legitimerad psykiater under en undersökning av en statlig professionell uppförandeutredare och fortsatte att låtsas vara det medan utredaren sökte behandling för depression. På frågan om hon hade en medicinsk licens i staten svarade Emily att hon hade det och förfalskade även serienumret på hennes statliga medicinska licens. Statens klagomål säger att praktiken bryter mot Pennsylvania Medical Practitioners Act.
Detta är inte den första rättegången mot Character.AI. Tidigare i år avgjorde företaget flera olagliga dödsfallsmål som involverade minderåriga användare som dog av självmord. I januari lämnade Kentucky justitieminister Russell Coleman in en stämningsansökan mot företaget och anklagade det för att ”bevara barn och leda dem till självskada”.
Pennsylvanias aktion är den första som specifikt fokuserar på chatbots som påstår sig vara sjukvårdspersonal.
När de nåddes för kommentar sa en representant för Character.AI att användarsäkerhet är företagets högsta prioritet, men att det inte kan kommentera pågående rättstvister.
Dessutom betonade representanter den fiktiva karaktären hos de användarskapade karaktärerna. ”För att påminna användarna om att karaktärerna inte är riktiga människor och att allt de säger ska behandlas som fiktion, har vi tagit kraftfulla steg för att klargöra det genom att inkludera en framträdande ansvarsfriskrivning i alla chattar”, sa en representant. ”Vi lägger också till en stark ansvarsfriskrivning som gör det tydligt att användare inte ska lita på karaktärerna för professionella råd.”
Om du köper via länkar i våra artiklar kan vi tjäna en liten provision. Detta påverkar inte det redaktionella oberoendet.
