OpenAI, het bedrijf achter AI-chatbot ChatGPT, heeft het niet heel makkelijk de laatste weken. Het aantal aantijgingen tegen de maker van AI-software stapelt zich op, met als recent hoogtepunt een op dinsdag gepubliceerde open brief van eigen werknemers die zich zorgen maken over de gang van zaken bij de startup. 

In de brief stellen de dertien schrijvers, die allen werkzaam zijn of waren bij OpenAI, Google DeepMind en/of Anthropic, dat AI-bedrijven moeten veranderen. Ze zouden zich onvoldoende bezighouden met de veiligheid van kunstmatige intelligentie, omdat ze daar eigenlijk geen aanleiding toe hebben.

Nieuwe producten uitbrengen en winst maken hebben volgens de klokkenluiders de overhand. Ze maken zich daarom zorgen over risico’s als manipulatie, desinformatie, verlies van controle over AI-systemen en zelfs de ondergang van de mensheid.

AI-bedrijven zouden zich moeten toeleggen op een cultuur waar open kritiek mogelijk is en waar niet tegen degenen die zorgen uitten wordt opgetreden, stellen de auteurs. Iets wat vrijwel onmogelijk is door de geheimhoudingsclausules in de contracten van de medewerkers.

Hoewel de brief niet specifiek gericht is aan OpenAI, is wel duidelijk dat juist daar de zorgen vandaan komen. Negen van de dertien ondertekenaars werken of werkten bij OpenAI.

Werknemers uit veiligheidsteams van AI-startups stappen op

Voordat de brief werd gepubliceerd, werd OpenAI al geconfronteerd met het opstappen van enkele belangrijke medewerkers die zich daarna niet heel positief over de gang van zaken uitlieten.

Voormalig onderzoeker Daniel Kokotajlo van OpenAI, scheef in een brief waarin hij zijn ontslag aankondigde: "De wereld is er niet klaar voor en wij zijn er niet klaar voor." Hij maakt zich grote zorgen over de manier waarop de ontwikkeling van artificial intelligence is verlopen zonder dat er werd stilgestaan bij en nagedacht over de bredere consequenties.

Een woordvoerder van OpenAI liet in een verklaring tegenover Business Insider weten dat het bedrijf de kritiek ter harte neemt, maar dat er wel degelijk interne mogelijkheden zijn voor werknemers om zorgen te uitten.

"We zijn het ermee eens dat een rigoureus debat van cruciaal belang is, gezien het belang van deze technologie en we zullen in gesprek blijven met overheden, het maatschappelijk middenveld en andere gemeenschappen in de hele wereld."

Naast Kokotajlo stapten ook enkele andere belangrijke medewerkers van OpenAI op, Daarbij zaten Jan Leike, en hoofdonderzoeker Ilya Sutskever.

Het opstappen van Sutskever was niet geheel onverwacht. Hij was een van degenen die afgelopen november instemden met het ontslag van CEO Sam Altman van OpenAI. Toen Altman binnen enkele dagen weer terugkeerde als CEO, was de positie van Sutskever overduidelijk onhoudbaar geworden.

Leike leidde het team dat ervoor moet zorgen dat kunstmatige superintelligentie - wat het ultieme doel van OpenAI is - geen gevaar voor de mensheid vormt. Hij verduidelijkte de reden van zijn vertrek op social media. Leike schreef onder andere dat "de laatste paar jaar de cultuur van veiligheid en veiligheidsprocessen ondergeschikt is geraakt aan mooie producten."

Veiligheid van AI op de tweede plek (of de derde)

Het sentiment bij de opgestapte topmanagers van OpenAI wordt bevestigd door zowel werknemers als voormalig bestuursleden. Ook zij stellen dat veiligheid lager op de prioriteitenlijst is komen te staan.

Er wordt al langer gezegd dat OpenAI geen organisatie zonder winstoogmerk meer is, maar dat het zich focust op groei en het maken van winst.

De waarde van de AI-startup wordt momenteel geschat op ongeveer 86 miljard dollar. Mogelijk wordt OpenAI binnenkort formeel ook een op winst gericht bedrijf, aangezien CEO Altman met dit idee speelt.

Het feit dat OpenAI steeds meer nieuwe producten toont waarvan sommige werknemers denken dat ze nog niet klaar zijn voor publiekelijk gebruik, zou aantonen dat Altman de veiligheid uit het oog heeft verloren.

Al kan ook worden gesteld dat veiligheid al langere tijd ondergeschikt is geraakt, want voormalig bestuurslid Helen Toner vertelde in een interview dat Altman in 2022 het toenmalige bestuur van OpenAI niets had verteld over het uitbrengen van ChatGPT. Toner vernam dat via een bericht op Twitter.

CEO Sam Altman ligt opnieuw onder vuur

Het gedrag van Altman staat steeds meer ter discussie. De manier waarop hij onlangs omging met actrice Scarlett Johansson is daar het meest recente voorbeeld van. Altman zou naar verluidt al maanden bezig zijn geweest om Johansson te overtuigen om haar stem te lenen voor de pratende versie van ChatGPT. Zij weigerde, maar was bij de onthulling van de babbelende chatbot onaangenaam verrast toen het stemgeluid wel heel erg veel op dan van haarzelf leek.

Altman legde bij de onthulling van de nieuwe chatbot een verband met de film 'Her', waarin niet geheel toevallig Johansson de stem van een AI-bot vervulde. Ook zou de CEO vlak voor de demo nog contact hebben gezocht met de actrice in een poging haar toch over te halen. Voordat Johansson hierop kon reageren, was het kwaad al geschied.

In een statement van OpenAI werd gesteld dat de top van het bedrijf niet goed had gecommuniceerd en de communicatie onhandig had aangepakt.

Dat die interne communicatie niet helemaal vlekkeloos verloopt, werd ook duidelijk toen Altman onlangs werd geconfronteerd met het verwijt dat OpenAI werknemers onredelijke contracten liet ondertekenen bij vertrek.

Zo eiste OpenAI dat ex-werknemers zich niet negatief over de startup zouden uitlaten, met als dwangmiddel dat toegekende opties op aandelen OpenAI daarmee waardeloos zouden worden. Gelet op de waardering van het bedrijf, zouden hierbij al snel miljoenen dollars per ex-werknemer in het geding zijn.

Altman liet hierop weten dat hij niet op de hoogte was van deze contracten en dat hij nooit zo ver zou gaan om de aandelenopties van (ex-)werknemers nietig te laten verklaren. Hij stelde wel dat hij hier een fout had gemaakt en beloofde beterschap. Maar ook hier kwam kort na zijn statement uit dat hij mogelijk wel kennis had van de contracten.

LEES OOK: Sam Altman, de baas van ChatGPT-maker OpenAI, denkt groot: hij zoekt tot $7.000 miljard aan financiering voor eigen chipfabrieken