- Een anonieme programmeur heeft in minder dan twee maanden tijd een door AI aangestuurde ‘propagandamachine’ gemaakt.
- Door gebruik te maken van OpenAI-tools als ChatGPT kost het model minder dan 400 euro per maand om draaiende te houden.
- Het project is bedoeld om mensen te laten zien hoe makkelijk het is om desinformatie te verspreiden.
- Lees ook: Het AI-model achter ChatGPT lijkt echt ‘dommer’ te worden, maar niemand weet goed waarom
Een programmeur heeft een door kunstmatige intelligentie aangestuurde “desinformatiemachine” gebouwd en heeft daarbij gebruik gemaakt van technologie van OpenAI, het softwarebedrijf achter de succesvolle AI-bot ChatGPT.
Het project genaamd ‘CounterCloud’ was in twee maanden klaar en kost minder dan 400 euro per maand om draaiende te houden. Dat toont aan hoe goedkoop en makkelijk het kan zijn om massaal propaganda te verspreiden.
De programmeur, die anoniem wil blijven, gebruikt volgens Wired de naam ‘Nea Paw’ en zegt een cybersecurity professional te zijn.
In een filmpje op YouTube beschrijft Paw hoe het project is uitgevoerd.
De programmeur wilde uitzoeken hoe het verspreiden van desinformatie met behulp van artificial intelligence-software (AI) uit zou pakken "in de echte wereld". Hij stelt dat "de taalvaardigheden van de grote taalmodellen bij uitstek geschikt zijn voor het verwerken van artikelen met nepnieuws."
ChatGPT als maker van nepnieuws
Paw zegt te zijn begonnen door ChatGPT te voeden met artikelen en de chatbot vervolgens instructies te geven het tegenovergestelde te schrijven. ChatGPT komt dan met meerdere versies van hetzelfde artikel in verschillende stijlen en met verschillende gezichtspunten.
Zo werden nepverhalen gegenereerd en historische momenten die nooit hebben plaatsgevonden en kon er twijfel worden gezaaid over de juistheid van het originele artikel.
Ook werden voor het project fakeprofielen gecreëerd van journalisten en nepcommentaren onder bepaalde artikelen. Vervolgens werd het systeem verteld berichten te liken en te delen die in lijn zijn met het nepverhaal en 'tegentweets' te schrijven op berichten die dat niet zijn.
In twee maanden tijd had de programmeur een volledig autonoom AI-systeem dat "90 procent van de tijd overtuigende inhoud produceert, 24 uur per dag en zeven dagen per week."
De maker heeft het model niet live op internet gezet, omdat de programmeur niet actief wil bijdragen aan het verspreiden van desinformatie en propaganda. Volgens Paw weet niemand waar het gaat eindigen als het systeem wordt losgelaten op internet.
Maar er valt veel te leren valt van CounterCloud, da het mensen duidelijk kan maken hoe deze systemen van binnenuit werken.
De bedreiging die AI vormt voor de democratie doordat het desinformatie kan creëren en snel kan verspreiden is een van de grootste zorgen in het debat over kunstmatige intelligentie. De CEO van OpenAI, Sam Altman, sprak daar onlangs ook zijn zorgen over uit.
