Bill Gates, Microsofts medgrundare, säger i en nyligen publicerad intervju med Agence France-Presse att AI-drivna cyberattacker sannolikt kommer att öka under det kommande året. ”Det område där vi sannolikt kommer att se den tydligaste ökningen nästa år är cyberattacker”, sade han och riktade fokus mot illvillig användning snarare än okontrollerade system.
Gates varnade för att den mer avlägsna, men ändå viktiga, risken att AI skulle undkomma mänsklig kontroll fortfarande är ett orosmoment. De omfattande konsekvenserna lär dock inte märkas förrän om några år. ”Den verkliga faran just nu är inte att AI tappar kontrollen. Vi bör arbeta med frågan, men de stora effekterna ligger fortfarande några år fram i tiden”, sade han.
Hans mer omedelbara oro gäller illvilliga aktörer som utnyttjar avancerade modeller och kringgår säkerhetsbegränsningar. ”Just nu är det tillåtet att ta bort alla dessa säkerhetsåtgärder”, sade Gates och betonade hur lättillgängliga sådana modifieringar kan göra systemen skadliga.
Han varnade för att kombinationen av illvilliga avsikter, svaga eller obefintliga skyddsåtgärder och tillgång till de senaste AI-modellerna kan leda till oförutsedda negativa konsekvenser nästa år, särskilt inom cyberattacker.
Branschens självreglering räcker inte
Gates avfärdade också tanken att AI-företag på ett tillförlitligt sätt kan övervaka sig själva. Enligt honom har även USA:s president Donald Trump framfört denna uppfattning. Gates menade att frivillig tillsyn från företagens sida inte räcker för en teknik med så långtgående potential.
”Tanken att företagen ska ha sista ordet om den farligaste tekniken i mänsklighetens historia, och att företagen själva ska vara samhällets enda reglerande instans, visar att våra åtgärder inte är tillräckliga.”
"Jag bevakar trender inom AI och maskininlärning. Det fascinerar mig hur tekniken lär sig tänka – och hur vi människor förändras tillsammans med den."
Diskussion
Lämna en kommentar
Kommentarer
Inga kommentarer ännu. Bli den första.