Påven Leo XIV kräver avväpning av dödliga AI-vapen

Påven Leo XIV har uppmanat till ”avväpning” av AI-system och manat regeringar att inte överlåta beslut om liv, frihet och användning av våld till maskiner. Han beskriver uppmaningen som en rättslig och säkerhetspolitisk fråga som ska behandlas vid ett kommande möte i Genève nästa månad.

Krav på konkreta åtgärder i Genève

I ett tal på fredagen uppmanade påven FN:s medlemsstater att vidta ”konkreta åtgärder för att förbjuda dödliga autonoma vapen”. Han sade att frågan inte bara handlar om etik, utan direkt berör den rättsliga och säkerhetspolitiska debatt som ska föras i Genève nästa månad.

Mänsklig kontroll och rättsligt ansvar

Leo XIV sade att människor har ”ansvaret att styra, förändra och, om nödvändigt, avvisa tillämpningar” av artificiell intelligens. Han förtydligade att ”avväpning” i detta sammanhang inte innebär att AI ska överges helt. Fokus ligger i stället på att begränsa tillämpningar som kan orsaka död eller skada utan ett effektivt mänskligt omdöme.

Kärnan i hans resonemang är en rättslig gränsdragning mellan verktyg och aktör. ”Maskiner är verktyg, inte personer”, sade han. Han varnade för att ge AI-system rättigheter eller juridisk personstatus, eftersom det kan sudda ut det mänskliga ansvaret – särskilt när ett systems beslut påverkar människors liv, frihet eller säkerhet.

Beslut som påverkar liv, frihet och användning av våld måste alltid fattas under effektiv, informerad och ansvarsfull mänsklig övervakning.

I linje med Vatikanens tidigare ståndpunkter

Påvens uttalanden följer en rad tidigare Vatikanståndpunkter om autonoma vapen. Påve Franciskus efterlyste 2024 på samma sätt ett förbud mot sådana system och sade att ”ingen maskin någonsin bör få välja att ta ett människoliv”. Leo XIV för samma princip vidare, men med ett tydligare fokus på regleringsmekanismer och ansvar.

Artificiell intelligens har varit ett återkommande tema sedan början av Leo XIV:s pontifikat. Han har kopplat sitt namnval till vår tids teknologiska utmaningar och hänvisat till Leo XIII, som tog sig an de sociala och ekonomiska omvandlingarna under industrialismen. Leo XIV har beskrivit den snabba AI-utvecklingen som en jämförbar omvandling som kräver ett etiskt och institutionellt svar.

• Uppmanade FN:s medlemsstater att förbjuda dödliga autonoma vapen vid mötet i Genève nästa månad
• Insisterade på mänsklig övervakning och rättsligt ansvar för AI-beslut som påverkar liv, frihet och användning av våld
• Beskriver frågan som både etisk och som en fråga om internationell säkerhet och rätt

Påven framställde kraven som en fortsättning på sina tidigare dokument om att skydda människovärdet i AI-eran och utvidgade det etiska ramverket till vapenteknik, rättsligt ansvar och internationell tillsyn.