- Artificial intelligence (AI) kan leiden tot fundamentele verschuivingen in onze samenleving en democratie, met potentieel verwoestende gevolgen.
- Auteur Yuval Noah Harari waarschuwt dat AI niet alleen conflicten kan verergeren, maar ook een totalitaire, niet-menselijke macht kan creëren die ons leven beheerst.
- Het aanpakken van de gevaren van AI vereist wereldwijde samenwerking, verantwoordelijkheid van techbedrijven en het ontwikkelen van mechanismen die waarheid boven desinformatie stellen.
- Lees ook: Zo denkt Alexander Klöpping over AI: tussen vreugde en paniek
ANALYSE – Yuval Noah Harari, auteur van het wereldberoemde boek Sapiens, beschrijft in zijn nieuwe boek de opkomst van kunstmatige intelligentie (AI) als de krachtigste technologie die de mensheid ooit heeft gekend. In zijn visie vormt artificial intelligence een groot gevaar voor de democratie en kan het leiden tot massale manipulatie en verdeeldheid.
In Sapiens: A Brief History of Humankind beschrijft de Israëlische historicus de geschiedenis van de mensheid, van de vroegste dagen van homo sapiens tot aan de moderne tijd. Harari’s centrale stelling is dat de uitzonderlijke ontwikkeling van de mens voortkomt uit onze unieke capaciteit om samen te werken en complexe samenlevingen te vormen, waarbij verhalen en mythologie een cruciale rol spelen.
In zijn nieuwste boek Nexus staan de informatiesystemen centraal die de mensen gebruiken om deze verhalen en mythologieën te verspreiden. Zo beschrijft hij de bijbel als een bijzonder krachtige technologie die miljarden mensen diepgaand beïnvloed heeft. Dat roept de vraag op wat de opkomst van kunstmatige intelligentie teweeg zal brengen, verreweg de krachtigste technologie die we ooit gekend hebben.
De nieuwe dreiging van artificial intelligence
Volgens Harari is het huidige computertijdperk gebaseerd op openheid van informatie. Oftewel, hoe meer vrijelijk informatie zich kan verspreiden, hoe beter de samenleving functioneert. Dit is echter een naïeve opvatting, volgens de schrijver.
We hebben meer massavernietigingswapens dan ooit geproduceerd, meer levensgebieden vernietigd, en miljarden tonnen CO2 de atmosfeer in gepompt, ook al hadden we enorme hoeveelheden informatie tot onze beschikking die ons lieten zien dat deze acties ons steeds dichterbij onze eigen vernietiging brengen.
Gaat nog meer informatie de situatie verbeteren? De tech-optimisten denken van wel, zoals venture capitalist Marc Andreessen die in 2023 een veelgelezen essay schreef over waarom AI de wereld gaat redden en waarom de paniek rond AI volgens hem om verschillende redenen onterecht is.
Andere AI-experts zijn minder optimistisch. In 2023 waarschuwde een groep top AI-deskundigen – waaronder experts van OpenAI en Google Deepmind – dat kunstmatige intelligentie zou kunnen leiden tot het uitsterven van de mensheid.
Tientallen AI-experts hebben een verklaring ondertekend die op de webpagina van het Center for AI Safety is gepubliceerd. “Het beperken van het risico van uitsterven door AI zou een mondiale prioriteit moeten zijn, naast andere risico’s op maatschappelijke schaal, zoals epidemieën en een nucleaire oorlog”, valt er te lezen.
Harari vindt dat we ons in ieder geval bewust moeten zijn van de gevaren en de meer sinistere kant van kunstmatige intelligentie. Door de geschiedenis van informatienetwerken te begrijpen, kunnen we fouten voorkomen. Daarbij merkt hij wel op dat er cruciale verschillen zijn tussen AI en technologieën uit het verleden.
AI is geen tool, maar een agent. Het is de eerste technologie met het vermogen om zelf ideeën te verzinnen en beslissingen te nemen. Dat brengt twee grote risico's met zich mee: het kan bestaande conflicten versterken en de wereld verder polariseren, of erger nog, AI kan een totalitaire macht worden die ons leven en onze politiek volledig beheerst.
Manipulatie en massavernietiging door toxische informatie
Informatienetwerken zijn historisch gezien altijd kwetsbaar geweest voor manipulatie. Harari geeft voorbeelden van hoe toxische informatie rampzalige gevolgen heeft gehad, zoals de heksenjachten in de middeleeuwen en de vervolging van de Rohingya in Myanmar veroorzaakt door Facebook-algoritmes die maximale ‘engagement’ nastreefden. Sociale media en AI kunnen deze manipulatie naar nieuwe hoogten brengen door massale illusies te creëren die democratieën verzwakken.
De democratie staat al onder druk van populistische leiders die als enige zeggen te begrijpen wat er leeft onder het volk en die twijfel zaaien over democratische instituties, zoals de media, de rechtspraak, en de politiek.
Uit onderzoek blijkt dat sociale media verder bijdragen aan deze politieke polarisatie. AI kan dit nog eens verder versnellen door geavanceerde algoritmes die desinformatie verspreiden en extreme meningen versterken. Het vermogen van AI-modellen om menselijke taal te beheersen, empathie te simuleren en mensen te manipuleren, maakt het des te gevaarlijker in de politieke arena.
Naarmate miljarden intelligente agenten hun intrede doen in onze informatienetwerken, neemt de kans aanzienlijk toe dat nieuwe massale illusies ontstaan, vergelijkbaar met het nazisme, stalinisme of het huidige gedachtegoed van Poetins Rusland. Informatie en waarheid zijn immers niet hetzelfde, benadrukt Harari.
Zonder maatregelen om de balans in het voordeel van de waarheid te verschuiven, loopt de samenleving het risico te worden overspoeld door een moeras van 'alternatieve waarheden', wat de samenleving en democratie ernstig in gevaar kan brengen.
Beheersing van AI en de strijd om waarheid
Harari benadrukt dat het noodzakelijk is om verantwoordelijkheid te nemen voor AI. Techbedrijven zoals Facebook moeten worden aangesproken op de gevolgen van hun algoritmes, die vaak haat en polarisatie aanwakkeren. Netwerken moeten zelfcorrigerende mechanismen ontwikkelen die waarheid belonen en desinformatie tegengaan.
Een ander belangrijk punt is het ‘alignment’-probleem: AI kan oplossingen bedenken die mensen niet hadden voorzien, wat leidt tot onvoorspelbare en ongewenste gevolgen. Harari pleit voor het ontwikkelen van AI-systemen die feedback vragen voordat ze beslissingen nemen, om gevaarlijke uitkomsten te voorkomen.
Om de democratie te beschermen tegen AI, pleit Harari voor decentralisatie van informatienetwerken en strikte regulering van AI-toepassingen. Het nadoen van mensen door AI, zoals bij chatbots, zou verboden moeten worden om manipulatie van het politieke proces te voorkomen.
Bovendien moeten bedrijven zoals Amazon transparanter worden over hun interne processen, zodat de informatie niet alleen één kant op stroomt.
Hoop en toekomstperspectief
Het is niet zo dat Harari alleen maar negatief is over technologie en AI. Zo geeft hij aan dat hij als homoseksueel in het kleine dorpje in Israël emotioneel eenzaam was, maar via een Facebook-groep ontmoette hij zijn huidige man. Toch is zijn mensbeeld minder optimistisch dan dat van iemand als Andreessen, en de geschiedenis lijkt Harari gelijk te geven.
De inzet is nog nooit zo hoog geweest als nu, in het AI-tijdperk. Met de ongekende kracht van deze technologie kan de mensheid het zich niet veroorloven dezelfde fouten als in het verleden te herhalen.
De impact van AI op de wereldeconomie en de arbeidsmarkt zal enorm zijn. De hoop is dat we, te midden van de verschillende grootmachten, een gemeenschappelijke basis kunnen vinden met gedeelde overtuigingen die ons aansporen de juiste beslissingen te nemen, zodat AI een overwegend positieve bijdrage levert aan het verhaal van de mensheid en de evolutie op aarde.