4 Minuter
Vissa människor använder ChatGPT som en sökruta. Andra pratar med det som om de sms:ar en vän klockan 2 på morgonen när sömnen uteblir. Den andra användningen har fört AI in på ett område som är mycket tyngre än produktdemonstrationer och koddhjälp, och OpenAI svarar nu med en funktion som är avsedd för stunder då en konversation verkar bli farlig.
Det nya verktyget, kallat Betrodd kontakt, börjar rullas ut i ChatGPT:s inställningar för vuxna användare. På pappret är syftet enkelt: låta en användare välja en person som kan bli meddelad om systemet upptäcker en allvarlig risk för självskada. I praktiken försöker OpenAI bygga ett säkerhetsnät utan att göra privata chattar till automatiska larm.
Att ställa in det är frivilligt. Användare kan utse en betrodd person, men den personen måste uppfylla ålderskravet: minst 18 år i de flesta regioner, eller 19 i Sydkorea. När personen valts får denne en inbjudan som förklarar rollen och har sju dagar på sig att acceptera. Om de tackar nej kan användaren välja någon annan.
Vad som händer härnäst visar tydligt att OpenAI försöker undvika övertramp. Varningar skickas inte automatiskt i samma stund som systemet upptäcker oroande språk. Först informerar ChatGPT användaren om att deras Betrodd kontakt kan komma att meddelas. Det uppmuntrar också användaren att ta kontakt direkt och erbjuder till och med förslag på hur samtalet kan inledas. Därefter granskar en liten grupp särskilt utbildade mänskliga granskare fallet. Endast om de bekräftar att situationen tyder på en allvarlig risk för självskada skickar OpenAI ett meddelande.
Det meddelandet kan komma via e-post, sms eller genom appen. Det innehåller inte chattloggar, citat eller en sammanfattning av samtalet. Istället informerar det den betrodda personen om att självskada nämnts i ett oroande sammanhang och ber dem höra av sig. OpenAI säger att de strävar efter att slutföra den mänskliga granskningen på mindre än en timme.
Hur detta passar in i OpenAI:s bredare säkerhetsarbete
Detta kommer inte i ett vakuum. OpenAI har redan infört säkerhetsfunktioner kopplade till tonårskonton, inklusive varningar till föräldrar när länkade konton visar tecken på psykisk påfrestning. Betrodd kontakt förlänger den idén till vuxna, vilket säger mycket om hur företaget nu ser att ChatGPT används. Chatboten är inte längre bara en produktivitetsassistent. För många användare har den blivit en plats för djupt personliga, känslomässigt laddade samtal.
Enligt OpenAI utvecklades funktionen med input från kliniker, forskare och organisationer inom psykisk hälsa, inklusive Amerikanska psykologföreningen (APA). Det externa deltagandet spelar roll. Alla verktyg som rör risk för självskada, integritet och krisrespons befinner sig i ett känsligt område där designbeslut får verkliga konsekvenser.
Det finns också tydliga begränsningar. Betrodd kontakt är inget substitut för en krislinje, räddningstjänst eller professionellt stöd inom psykisk hälsa. OpenAI säger att ChatGPT fortsatt kommer att hänvisa användare till sådana resurser när det behövs. Användare kan ta bort eller byta sin valda kontakt när som helst, och kontakten kan avanmäla sig när de vill.
Det finns också ett tystare budskap i denna utrullning. OpenAI erkänner något som teknikbranschen länge snuddat vid: människor vänder sig redan med sina mest sårbara stunder till AI-chatbotar. Oavsett om företag avsåg det eller inte spelar det numera mindre roll. Beteendet är här. Funktioner som Betrodd kontakt är ett försök att svara på den verkligheten med lite mer försiktighet, mer mänsklighet och en insikt om att även den mest avancerade chatboten inte bör vara den enda rösten i rummet när det blir mörkt.
Lämna en kommentar