Paus waarschuwt voor risico’s AI voor wereldvrede

1 januari is op de katholieke kalender een dag om stil te staan bij de nood aan vrede in de wereld. De paus wijdt er jaarlijks een brief aan met een diepe reflectie. Voor komend nieuwjaar is de brief getiteld ‘Artificiële intelligentie en vrede’ (lees de brief in het Engels of Frans).

Na het aanvankelijke enthousiasme over AI worden de risico’s van deze nieuwe technologie stilaan glashelder. Paus Franciscus dringt er dan ook op aan om ervoor te zorgen dat de vooruitgang in de ontwikkeling van vormen van kunstmatige intelligentie de menselijke broederschap en vrede zou dienen in plaats te vernietigen.

Nieuwe technologieën hebben altijd een ethische dimensie, stelt de paus. Wie er slechte bedoelingen mee heeft of verkeerde beslissingen neemt, kan enorm veel schade aanrichten voor mens en planeet. Daarom moeten we laten zien dat we in staat zijn om verantwoordelijk te handelen en fundamentele menselijke waarden respecteren als inclusie, transparantie, veiligheid, gelijkheid, privacy en betrouwbaarheid, zo schrijft paus Franciscus.

Technologische ontwikkelingen die niet de levenskwaliteit van de hele mensheid, maar wel ongelijkheid en conflict bevorderen, kunnen nooit tellen als echte vooruitgang. Paus Franciscus

Menselijke almacht

Het vermogen van bepaalde apparaten om coherente teksten te produceren is ‘geen garantie voor hun betrouwbaarheid’, klinkt het. De paus waarschuwt voor desinformatiecampagnes die het wantrouwen jegens de mainstream media aanwakkeren. Hij wijst ook op discriminatie, inmenging in verkiezingen, de opkomst van een surveillancemaatschappij, digitale uitsluiting en extremer individualisme als bedreigingen voor de wereldvrede.

AI versterkt ook de cultus van onbeperkte menselijke macht, zo stelt de paus: ‘Er is een obsessief verlangen om alles te controleren en elke begrenzing van het leven te overwinnen. Daardoor lopen we het risico de controle over onszelf te verliezen.’

Ons obsessief verlangen om onze grenzen te verleggen en het leven te controleren, maakt dat we onszelf verliezen. Paus Franciscus

Mensenrechten en bewapening

Denk ook aan de gevolgen van AI voor de mensenrechten. Alomtegenwoordigde bewakingscamera’s en systemen van sociale controle kunnen ingrijpende gevolgen hebben voor het sociale weefsel door een rangorde onder burgers aan te brengen. Algoritmes mogen niet bepalen hoe we mensenrechten begrijpen en de essentiële menselijke waarden van mededogen, barmhartigheid en vergeving opzij zetten’, benadrukt de paus.

Hij haalt ook de Lethal Autonomous Weapon Systems (LAWS) aan en vestigt de aandacht op het risico dat geavanceerde wapens in de handen van terroristen terechtkomen. ‘De meest geavanceerde technologische toepassingen mogen niet worden gebruikt om de gewelddadige oplossing van conflicten te vergemakkelijken, maar juist om de weg naar vrede te effenen.’

Iets positiefs?

Kunstmatige intelligentie kan ook positief gebruikt worden om integrale menselijke ontwikkeling te bevorderen, door ‘belangrijke innovaties in landbouw, onderwijs en cultuur, een verbeterd niveau van leven voor hele naties en volkeren, en de groei van menselijke broederschap en sociale vriendschap’. Het onderwijs zal nieuwe generaties zien opgroeien ‘in een culturele omgeving die doordrongen is van technologie’. Opvoeden tot kritisch denken is meer dan ooit de opdracht.

Paus Franciscus dringt er bij de internationale gemeenschap op aan om samen te werken aan een bindend verdrag dat de ontwikkeling en het gebruik van kunstmatige intelligentie in zijn vele vormen reguleert: ‘De wereldwijde schaal van AI maakt duidelijk dat, naast de verantwoordelijkheid van soevereine staten om het gebruik ervan intern te reguleren, internationale organisaties een beslissende rol kunnen spelen in het bereiken van multilaterale overeenkomsten en het coördineren van de toepassing en handhaving ervan.’

Mijn gebed voor het nieuwe jaar

‘Dit is mijn gebed aan het begin van het nieuwe jaar’, concludeert de paus: ‘Dat de snelle ontwikkeling van vormen van kunstmatige intelligentie de ongelijkheid en onrechtvaardigheid niet zal doen toenemen, maar zal helpen om een einde te maken aan oorlogen en conflicten en om de vele vormen van lijden in onze menselijke familie te verlichten.’