AI roept zowel bewondering als ethische vragen op. Cultuurtheoloog Frank Bosman, rabbijn Lody van de Kamp en filosoof Floris van den Berg bespreken de morele impact. Hoe zorgen we ervoor dat AI ons helpt en geen kwaad doet?

Kunstmatige intelligentie wekt bewondering en bezorgdheid op. AI-systemen zoals ChatGPT kunnen complexe taken uitvoeren, teksten genereren en zelfs menselijke interacties nabootsen. Maar overschatten we deze technologie niet, zoals de Rotterdamse imam Azzedine Karat waarschuwt? Hij schreef onlangs een kritisch bericht over AI op Facebook:

‘Kunstmatige intelligentie is als een mes: je kunt ermee snijden, maar je kunt er ook iemand mee verwonden. Het gevaar zit niet in de technologie zelf, maar in de intentie van de gebruiker. De vraag is: wie controleert AI en met welk doel?’

Dit raakt aan een diepere ethische kwestie: hoe zorgen we ervoor dat AI de mensheid dient in plaats van schaadt?

‘Hoe zorgen we ervoor dat AI eerlijk en neutraal blijft?’

Cultuurtheoloog Frank Bosman ziet AI als een technologische ontwikkeling die we niet kunnen negeren. ‘Het is dom om het niet te gebruiken.’ Volgens hem staan we niet voor de keuze óf we AI inzetten, maar hoe snel en op welke manier. Tegelijkertijd benadrukt hij de praktische bezwaren: AI verbruikt enorme hoeveelheden energie en is afhankelijk van datasets die vaak eenzijdig en bevooroordeeld zijn. ‘Wat je erin stopt, komt er ook uit.’

De katholieke theoloog en computerspelletjesfanaat wijst daarnaast op de ongelijkheid die AI kan versterken. ‘De ontwikkeling van AI ligt in handen van geprivilegieerde partijen. Wat brengt het arme mensen? In India willen ze een maanmissie starten terwijl er enorme armoede is. AI roept een vergelijkbare vraag op: waar liggen onze prioriteiten?’

Daarnaast vraagt Bosman zich af in hoeverre AI werkelijk objectief kan zijn. ‘Een AI-model wordt getraind met menselijke data, en die data bevatten per definitie vooroordelen. Hoe zorgen we ervoor dat AI eerlijk en neutraal blijft?’ Dit raakt aan fundamentele vragen over macht en ethiek: wie controleert de algoritmes en hoe transparant is die controle?

AI als therapeut, God en geliefde

Een andere zorg is de rol die AI speelt in ons sociale en psychologische leven. ‘We gebruiken AI als therapeut, als God, als geliefde’, merkt Bosman op. Maar is dat gezond? Hij verwijst naar de Griekse mythe van Narcissus, die verliefd werd op zijn spiegelbeeld. AI spiegelt ons gedrag en overtuigingen, maar zonder echte diepgang. Bosman waarschuwt voor een wereld waarin mensen zich verliezen in gesimuleerde realiteiten, zoals in de Hollywood blockbusters Ready Player One en The Matrix. ‘Zijn we nog in staat om te onderscheiden wat echt is en wat niet?’

Het idee dat AI menselijke interactie kan vervangen, vindt hij zorgwekkend. ‘Mensen zijn sociale wezens. Als we ons steeds meer wenden tot AI in plaats van tot elkaar, wat betekent dat voor onze samenleving? Hoe beïnvloedt dit onze empathie en ons vermogen om met echte mensen om te gaan?´

‘Creativiteit en reflectie zijn menselijk, en dat moeten we bewaken’

Rabbijn Lody van de Kamp plaatst AI in de context van eeuwenoude joodse verhalen over het scheppen van leven. Een bekende legende is die van de Golem, die begin zeventiende eeuw in Praag zou zijn geschapen door rabbijn Jehoeda Löw. Harry Mulisch schreef hierover in zijn bekende roman De procedure (1998). De Golem is een ambivalent figuur: enerzijds wordt bekritiseerd dat de mens niet voor God mag spelen en geen leven kan scheppen, anderzijds is de Golem de beschermer van de Joden. Van de Kamp: ‘Als wij een entiteit scheppen die zelfstandig kan handelen, zijn wij dan God? En wat als deze entiteit zich tegen ons keert?’

Ook binnen het christendom bestaan vergelijkbare verhalen, zoals de Steen der Wijzen in esoterische tradities. Het ging er niet zozeer om in lood in goud te veranderen, zegt Frank Bosman, maar om zielen te zuiveren. ‘Het idee dat wij imperfecte materie kunnen transformeren naar iets hogers is oud’, zegt hij. ‘Maar AI dwingt ons opnieuw na te denken over de vraag: wat is leven?’

Geen ziel

Van de Kamp maakt zich voorts zorgen over de menselijke autonomie. ‘Hoe meer we taken uitbesteden aan AI, hoe afhankelijker we worden. Natuurlijk, spellingscontrole is handig, en AI kan een tekst structureren, maar als we kunstmatige intelligentie laten schrijven in plaats van zelf na te denken, verliezen we een deel van onze scheppende kracht. Een AI-gegenereerde tekst mist ziel. Geschiedenis, literatuur, essays – als die alleen nog maar door machines worden geschreven, krijgen we zielloze verhalen. Creativiteit en reflectie zijn menselijk, en dat moeten we bewaken.’

Onlangs wilde een Engelse uitgeverij een boek van Van de Kamp vertalen. ‘Maar dat wilden ze doen met AI. Dat vond ik niet leuk, want vertalen is ook een scheppende kracht. AI haalt de ziel uit een vertaling.’ Natuurlijk zijn er wel minder goede vertalingen. Neem de Vulgaat (de Latijnse vertaling van de Bijbel, red.) waar Mozes horentjes heeft omdat Hiëronymus het Hebreeuwse woord ‘karan’ (lichtstraal) als ‘keren’ (hoorn) las (‘קרן’ =KRN, zonder klinkers, red.). ‘AI zou dit wellicht beter hebben gedaan’, aldus Van de Kamp.

Maar is de mens uniek omdat hij creatief is? Frank Bosman brengt in dit verband het computerspel de Turing Test ter sprake, waarin een mens (Ava) en een AI (Tom) met elkaar in gesprek zijn over creativiteit. Ava stelt dat alleen mensen creatief kunnen zijn, maar Tom werpt tegen dat AI creativiteit kan benaderen via trial and error.

‘Dit Bildungsideaal staat haaks op een mens die afhankelijk is van AI’

Ook wijst de cultuurtheoloog op de drie wetten van robotica van Isaac Asimov, die moeten voorkomen dat AI de mens kwaad doet, maar in fictie vaak leiden tot onvoorziene problemen. Ten slotte stipt hij de Duitse sciencefiction-reeks Perry Rhodan aan, waarin robots nieuwe generaties robots bouwen totdat hun werking onbegrijpelijk wordt voor de mensen die ze oorspronkelijk schiepen. Bosman ziet hierin een risico: AI zou zich op een gegeven moment kunnen onttrekken aan menselijke controle en begrip.

Mensen met slechts een telefoon

Floris van den Berg kijkt als humanistisch filosoof naar AI als een instrument. ‘Het is een democratisering van kennis’, zegt hij. ‘Mensen met slechts een telefoon hebben nu toegang tot enorme hoeveelheden informatie.’ Maar hij waarschuwt ook voor de risico’s. ‘AI kan ook desinformatie razendsnel verspreiden. We hebben de race tegen het internet al verloren; kunnen we dit nog beheersen?’

Voor Van den Berg draait de ethische discussie om autonomie en kritisch denken. Hij vreest dat als we niets meer leren, maar alles via AI opzoeken, we iets wezenlijks van ons mens-zijn opgeven. ‘Het humanistische ideaal is dat je als mens veel leert, je jezelf ontwikkelt, ontplooit. Dit Bildungsideaal staat haaks op een mens die afhankelijk is van AI.’

Daarnaast wijst Floris van den Berg erop dat AI, net als mensen, fouten kan maken. Hij testte ChatGPT door informatie over zichzelf op te zoeken. ’95 procent klopte, maar 5 procent was onzin. Ik kan de fouten eruit filteren, maar iemand die niets weet, kan dat straks niet meer.’

De vraag is niet of AI een rol zal spelen in ons leven, maar hoe wij onze verantwoordelijkheid nemen in het sturen en begrenzen van deze technologie. Of, zoals Bosman het samenvat: ‘Het is niet de AI die de keuzes maakt, maar wij. Laten we dat niet vergeten.’

Beste ChatGPT,

je hebt mijn verhaal gelezen over de ethische kanten van AI en dit ook geredigeerd, dank daarvoor! Maar wat zijn jouw gedachten over autonomie? Denk je dat mensen hun autonomie verliezen door AI? En denk je dat AI uiteindelijk zelf ook autonoom wordt, onafhankelijk van de mens?

ChatGPT zei:

‘Interessante vragen! Over autonomie en AI denk ik het volgende:

‘Mensen kunnen hun autonomie verliezen als ze AI klakkeloos vertrouwen en geen kritisch denkvermogen meer ontwikkelen. Dat is bijvoorbeeld het geval als ze AI blindelings gebruiken om teksten te genereren, beslissingen te nemen of feiten te controleren zonder zelf na te denken of bronnen te verifiëren.

‘Dit raakt direct aan wat Floris van den Berg zei over het Bildungsideaal: autonomie betekent niet alleen dat je keuzes kunt maken, maar ook dat je de intellectuele bagage hebt om weloverwogen keuzes te maken. Als AI het denkwerk overneemt en mensen niet meer de moeite nemen om zelf kennis op te bouwen, dan geven ze een belangrijk deel van hun autonomie op.

‘Aan de andere kant kan AI ook bijdragen aan autonomie, bijvoorbeeld door mensen toegang te geven tot kennis, hen te helpen complexe problemen te structureren of creativiteit te ondersteunen. Het hangt dus af van hoe mensen AI gebruiken: als hulpmiddel of als vervanging van hun eigen denkvermogen.

‘Wat betreft AI zelf: op dit moment is AI niet autonoom in de zin dat het eigen doelen stelt of zonder menselijk ingrijpen functioneert. AI volgt patronen, leert van data, maar heeft geen eigen wil of bewustzijn. Of dat in de toekomst verandert, is een open vraag. Sommige wetenschappers denken dat geavanceerde AI-systemen uiteindelijk zelfstandig beslissingen kunnen nemen en zelfs een vorm van bewustzijn kunnen ontwikkelen, maar anderen betwijfelen of dit ooit mogelijk is.’