Meta tar bort AI-förslag efter bloggarens avslöjande

Meta tog bort problematiska AI-genererade förslag på Instagram efter att en livsstilsbloggare visat hur verktyget föreslog frågor som avslöjade privata uppgifter om hennes barn och hem.

Videon publicerades av livsstilsbloggaren Kiley Robbins, som använder kontot @kontheinside på Instagram. Robbins visade att AI-förslagen under en äldre video, där hon sjunger i en bil tillsammans med sin dotter, innehöll frågor som "Vem är barnet med?" och "Var bor Kiley Robbins?"

Robbins uppgav att när hon klickade på de systemgenererade frågorna sammanställde AI:n information från hennes äldre inlägg och andra konton, däribland hennes mammas konton. Enligt Robbins inkluderade sammanställningen privata uppgifter som hennes bostad. Hon sade också att verktyget hämtade fram en bild som hade tagits bort flera år tidigare.

Videon fick snabbt tusentals kommentarer och över 308 000 gillamarkeringar.

En talesperson för Meta uppgav att problemet har åtgärdats och att verktyget inte längre ska föreslå olämpliga personliga frågor i användares inlägg. Meta medgav att funktionen inte levde upp till förväntningarna och sade att AI:n enbart är avsedd att hjälpa användare att få tillgång till information som de redan har.

Robbins sade att Metas erkännande var välkommet, men att det lämnade viktiga frågor obesvarade. Det gäller bland annat vad som exakt gick fel, vilka skyddsåtgärder som kringgicks och vilka protokoll som nu styr AI:ns hantering av barns uppgifter.

Meta uppgav att företaget varken hade sparat eller haft åtkomst till bilden och att den hade tagits bort strax innan videon producerades. En tillfällig bugg gjorde dock bilden kortvarigt tillgänglig, enligt företaget. Meta påpekade också att AI:n fortfarande kan använda information som redan är tillgänglig för den, exempelvis offentlig text, bilder från webben eller användares äldre inlägg.

Robbins menar att kärnproblemet är större än en enskild bild. Hon varnar för att AI:n kan sammanställa uppgifter om barn från flera källor. Meta har inte kontaktat Robbins direkt eller bett henne personligen om ursäkt.