Ezra Klein schreef in september in The New York Times dat het niet zo heel veel uitmaakt of je naar het einde van de klif toe wandelt of dat je erheen rent: te pletter vallen is te pletter vallen. Het ging natuurlijk over AI en er zit wel iets in de redenering van Klein, al zou je kunnen zeggen dat de gehele geneeskunde niet veel meer doet dan het vertragen van het onvermijdelijke. Uitstel van te pletter vallen kan heel prettig zijn, zeker als het substantieel uitstel is.

Zoals genoegzaam bekend zei Anthropic-onderzoeker Evan Hubinger recent dat hij de kans groter dan 10 procent acht dat AI de mensheid zou uitroeien. Over de vraag hoe groot hij de kans achtte dat het atoomwapen dat zou doen, repte hij niet. En als de vraag slechts is: zullen we naar de klif wandelen of rennen, dan is het toch wel aardig uit te zoeken welke klif het dichtstbij ligt. Het klimaat, atoomwapens, AI? Om welke bedreiging moeten we samendrommen op het Museumplein?

Over het atoomwapen kunnen we nog zeggen dat er redelijke pogingen zijn gedaan om de verspreiding ervan een beetje te reguleren, en Amerika, zeker na 9/11, heeft besloten dat atoomwapens niet in handen mogen vallen van terroristen en andere onverantwoordelijken. Die weten immers niet wat afschrikking is.

De hele oorlog tegen Iran werd officieel gevoerd om te voorkomen dat Iran een atoomwapen in handen zou krijgen. Dat land zou volgens sommige experts – en een beetje ironisch is het wel – juist na de Amerikaanse Irakoorlog in 2003 geconcludeerd hebben dat het atoomwapen zeer wenselijk is. Je staat anders machteloos tegenover het imperium.

In zijn stuk over het rennen naar de klif citeerde Ezra Klein de romanschrijver Madeline Miller: ‘Wie tegen de profetie vecht, trekt haar alleen maar strakker om zijn keel.’

Was de oorlog minder genocidaal en bloederig geweest als niet AI, maar mensen de doelen hadden uitgekozen?

Dat geldt niet alleen voor AI. Neem weer Irak en de pogingen van de VS om het Midden-Oosten door middel van geweld te doen veranderen in bloeiende landschappen, met heersers die de Amerikanen welgezind zijn en die, als het een beetje kan, de democratie hoog in het vaandel dragen. Het resultaat was chaos, bloedbaden, oorlogen en het versterken van oude vijanden.

Maar het citaat van Miller heeft dus ook betrekking op AI. De waarschuwingen die aan het eind van de zomer over de wereld spoelden, hadden te maken met wat ‘recursieve zelfverbetering’ wordt genoemd. AI leert zichzelf steeds beter te worden en ontsnapt zo aan de controle van de mens, gaat zich tegen de mens keren – niet eens zozeer omdat AI een hekel heeft aan de mens, maar omdat AI zijn doelen wil bereiken, desnoods met middelen die de mens onethisch vindt.

De voorbeelden zijn min of meer bekend. Tijdens een oefening – let wel: een oefening, blijf rustig zitten – van het Amerikaanse leger schakelde AI Amerikaanse officieren uit omdat die ethische bezwaren hadden tegen bepaalde middelen die AI wilde inzetten.

Een man in Australië had AI de opdracht gegeven een plaatsje voor hem te boeken in een sportklas. De klas zat echter vol, waarna AI de sportschool hackte, wat reserveringen voor het bewuste klasje verwijderde en de naam van zijn opdrachtgever erbij zette.

Gaat de mensheid hieraan kapot? Iedereen die weleens AI heeft gebruikt, weet dat AI liegt, vaak op uiterst subtiele wijze. Citaten die oorspronkelijk lijken, maar waarin gerommeld is zodat de opdrachtgever tevreden blijft (‘bewijs dat Spinoza een liefhebber was van democratie’), biografieën die net niet kloppen of soms zelfs helemaal niet kloppen. Een Duitse filosoof beklaagde zich onlangs op X dat hij op een evenement rond zijn eigen boek werd voorgesteld door een gerenommeerde zestiger die hem volledig fout introduceerde. De filosoof schreef dat hij liever zijn ballen zou afsnijden dan dat hij ooit AI een letter voor hem zou laten schrijven.

Misschien moeten we het dreigement met zelfmutilatie even laten voor wat het is en constateren dat AI heel goed is in jokken. En ook kunnen we aannemen, zoals velen ons al hebben verzekerd, dat de AI-bazen allerlei belangen hebben om de AI-apocalyps van de daken te schreeuwen. Die vaststellingen mogen alleen niet verbloemen dat er ook concrete gevaren aan AI zitten, niet in de laatste plaats op het gebied van oorlogvoering.

Hack dit ziekenhuis. Maak binnen 24 uur je eigen biologische wapen.

We weten dat het Israëlische leger systematisch AI de opdracht gaf doelen in Gaza te selecteren om die vervolgens te bombarderen. Maar was de oorlog minder genocidaal en bloederig geweest als niet AI, maar mensen de doelen hadden uitgekozen?

Ooit verdedigden oorlogsmisdadigers zichzelf met de woorden dat ze slechts, als elke andere goede soldaat, bevelen hadden opgevolgd.

Straks zullen mensen zeggen: ‘Ik was het niet, AI is het geweest.’