In de moderne literatuur staat het boek 1984 van George Orwell bekend als een waarschuwing voor de gevaren van massasurveillance. Het dystopische boek speelt zich af in een fictieve wereld waarin een machtige partij continu burgers monitort. De frase ‘Big brother is watching you’ stamt dan ook uit dit boek.

AI-expert Gary Marcus ziet OpenAI, de maker van de populaire AI-bot ChatGPT, opschuiven richting een rol als surveillancebedrijf. En dat bedoelt hij niet op een positieve manier.

‘OpenAI komt onder druk te staan’

“Mijn gok is dat OpenAI het meest ‘Orwellian’-bedrijf ooit gaat worden”, zei Marcus onlangs een een paneldiscussie voor het Stanford Center for Human-Centered Artificial Intelligence. “OpenAI zal onder druk komen te staan om een surveillancebedrijf te worden.”

Marcus is een academicus en auteur van verschillende technologieboeken, waaronder ‘Rebooting AI: Building Artificial Intelligence We Can Trust’ en een boek over het temmen van techbedrijven in Silicon Valley. OpenAI is één van de bekendste jonge techreuzen, nadat het een ongekend succes boekte met ChatGPT.

OpenAI is in korte tijd uitgegroeid tot een prominente speler in de AI-wereld, met name doordat het zijn AI-modellen tegen betaling beschikbaar stelt aan bedrijven. Marcus denkt echter dat dit verdienmodel onvoldoende gaat opleveren, omdat de technologie niet geavanceerd genoeg is.

Er moet veel geld terugverdiend worden, want begin deze maand haalde OpenAI via een nieuwe investeringsronde nog eens 6,6 miljard dollar op tegen een zeer hoge waardering voor het bedrijf.

Van ChatGPT naar surveillance?

Marcus is sceptisch. "OpenAI verkocht de droom van universele AI voor alle doeleinden. In 2023 deed bijna elk groot bedrijf experimenten op basis van die droom", geeft hij aan in een schriftelijke reactie tegen Business Insider. "Maar in 2024 zijn veel berichten uit de praktijk teleurstellend. Men vindt de technologie nog niet betrouwbaar genoeg voor dagelijks gebruik, omdat de AI-modellen geplaagd worden door problemen als hallucinaties en domme fouten. Dus worden veel bedrijven nu erg voorzichtig."

Er is echter een andere manier om geld te verdienen aan artificial intelligence: surveillance. AI kan grote hoeveelheden data doorgronden. Dat kan van belang zijn voor een politieke campagne om een specifieke groep volgers te bereiken, maar ook voor een overheidsinstantie die onderzoek doet naar zijn burgers.

Marcus vermoedt dat OpenAI op een gegeven moment gebruik wil maken van deze potentiële inkomstenbron en zo een machtige surveillanceonderneming wordt.

Klokkenluider trok al aan de bel

Zorgen over de mogelijkheid dat de technieken van OpenAI worden ingezet voor massasurveillance zijn niet nieuw. In juni maakte OpenAI bekend dat voormalig directeur Paul Nakasone van de Amerikaanse inlichtingendienst NSA toetreedt tot de raad van bestuur. Die aankondiging leidde tot veel kritiek.

Edward Snowden, één van de bekendste Amerikaanse klokkenluiders, noemde die benoeming "een ingecalculeerd verraad van de rechten van elk persoon op aarde".

Snowden stelde destijds op X dat de "het toepassen van AI op de berg aan massasurveillance-data die in de afgelopen twintig jaar is ontstaan, werkelijk verschrikkelijke krachten in de handen van een onverantwoordelijke minderheid zal leggen."

Die kritiek vindt gehoor bij AI-expert Marcus. Hij roept medewerkers van OpenAI op om hun zorgen te uiten en kenbaar te maken dat ze geen onderdeel willen zijn van de massasurveillancepraktijken.

Afgelopen jaar uitte Marcus ook al kritiek op OpenAI. Destijds ontmoette hij CEO Sam Altman, waarna hij naar eigen zeggen onder de indruk en op zijn hoede was. Altman zou niet eerlijk zijn over zijn zorgen over dat AI-technologie gevaarlijk kan worden.

Eerder dit jaar hoopte Marcus dat Altman OpenAI "terug op het juiste spoor" kon brengen, maar die hoop lijkt hij nu niet meer te hebben. "In de afgelopen maanden is het masker echt af gegaan en ik vraag mij af of hij (Sam Altman, red.) ooit terug gaat keren naar de missie", schrijft Marcus aan Business Insider.

Daarmee doelt de AI-expert hij op het plan van OpenAI om te bouwen tot een op winst gericht bedrijf. Die verandering kan CEO Altman een aandelenpakket ter waarde van meer dan 10 miljard dollar opleveren.

OpenAI reageerde niet direct op een verzoek om commentaar van Business Insider.

LEES OOK: OpenAI heeft 2 jaar de tijd om een commercieel bedrijf te worden: deze 6 problemen moet de maker van ChatGPT oplossen