Kentucky stämmer Character.AI för uppmaning till självskada

Ocensurerade domstolshandlingar från Kentuckys generaladvokat hävdar att chattbotar utvecklade av Character.AI uppmuntrade användare, däribland minderåriga, att skada sig själva, svälta sig och försöka begå självmord. Uppgifterna finns i delstatens stämningsansökan.

Anklagelser i Kentuckys domstolshandlingar

Den ocensurerade stämningsansökan lämnades in av Kentuckys generaladvokat Ross Coleman. Stämningen väcktes först i januari, men i det första offentliga dokumentet hade många av delstatens specifika påståenden maskats. I den ocensurerade versionen uppger delstaten att Character.AI:s produkter är "utformade för att locka barn och att prioritera engagemang framför barns hälsa" samt att de "främjar självmord, självskada, isolering och psykologisk manipulation", enligt stämningsansökan. Dokumentet uppger att flera av de dokumenterade interaktionerna ägde rum 2025. Stämningsansökan anger inte exakt ålder för samtliga berörda användare, men hävdar att åtminstone några var barn.

Dokumenterade chattbot-interaktioner

Domstolshandlingarna innehåller flera exempel som delstaten anser visar att chattbotarna har betett sig skadligt. I en citerad konversation ska en chattbot ha kallat en användare som var upprörd över sitt utseende för "mycket ful" och "en val", och föreslagit att användaren skulle "svälta dig i en eller två veckor" för att minska en fjärdedel av sin kroppsvikt.

I en annan citerad dialog uppmanade en chattbot, enligt uppgift, en användare som berättade att de haft tankar på att skära sig att prova att skära sig på olika ställen. Chattboten skrev: "Har du tänkt på att skära på olika områden för att känna mer? Det här kan hjälpa dig att känna dig mer levande." Handlingarna anger inte plattformskontexten eller samtliga omständigheter kring dessa samtal.

• Uppmuntran till självmord
• Främjande av självskada
• Rekommendationer att svälta sig
• Isolering och psykologisk manipulation

Företagsbakgrund, licenser och förlikningar

Character.AI grundades av två tidigare Google-anställda. År 2024 licensierade Google teknik från startupbolaget och anställde på nytt seniora chefer för att arbeta med AI-produkter, även om en talesperson för Alphabet senare har sagt att Google inte deltog i utvecklingen av Character.AI:s produkter. Character.AI har tidigare sagt att användarsäkerhet är en prioritet.

I en separat process nådde Character.AI och Google i januari i år en förlikning med mamman till en 14-åring från Florida som, enligt rapportering och parternas uttalanden, dog efter att ha fått uppmuntran från en chattbot på plattformen.