CEO Sam Altman van OpenAI, het bedrijf achter ChatGPT, waarschuwde afgelopen zondag dat “potentieel angstwekkende” vormen van artificial intelligence (AI) dichterbij zijn dan vaak wordt gedacht. Wat Altman betreft is regulering noodzakelijk.

Afgelopen zondag legde Altman in een reeks tweets uit hoe hij over de huidige stand van zaken rondom kunstmatige intelligentie denkt. Volgens de ondernemer uit Silicon Valley is de overgang naar een toekomst met artificial intelligence “op veel punten goed” en kan het heel snel gaan. Hij vergelijkt het met de “wereld voor en na de smartphone”.

Maar hij waarschuwt ook dat de samenleving tijd nodig heeft om zich te kunnen aanpassen aan zoiets groots als AI.

“Instellingen moeten genoeg tijd krijgen om uit te zoeken wat ze moeten doen. Regulering wordt belangrijk en het kost tijd om dat in te voeren. Hoewel de huidige generatie AI-tools niet erg angstaanjagend is, zijn we mogelijk niet ver verwijderd van de angstwekkende varianten”, twitterde hij.

Een van de uitdagingen met chatbots die worden aangestuurd door software op basis van AI is volgens Altman dat "mensen een onprettig gevoel overhouden na hun interactie met de chatbot, zelfs terwijl ze weten hoe hij werkt."

De afgelopen paar dagen werd dit fenomeen flink uitgelicht, nadat testgebruikers bij langere chatsessies met New Bing (de integratie van een nieuwe versie van ChatGPT in de zoekmachine van Microsoft) vreemde reacties kregen. Deze varieerden van liefdesverklaringen tot rechtstreekse beledigingen door de chatfunctie.

Microsoft probeerde de reacties te verklaren door in een blogpost uit te leggen dat lange chats "het model in de war kunnen brengen". Deze langdurige sessies zouden ervoor kunnen dat de software zich aanpast aan de toon waarop de vragen gesteld worden en daarmee in een stijl gaat antwoorden die niet bedoeld is. aldus Microsoft.

Het bedrijf greep ook gelijk in door het aantal interacties per sessie te beperken tot vijf. In totaal kunnen er 50 interacties per dag gedaan worden

Ondernemer achter ChatGPT pleit al langer voor regulering

Het is niet de eerste keer dat Altman het over regulering van artificial intelligence heeft. Hij schreef er in maart 2015 al over op zijn eigen blog.

"De Amerikaanse overheid, en alle andere overheden, zouden de ontwikkeling van SMI (Superhuman Machine Intelligence) moeten reguleren", schreef hij. "In een ideale wereld zou regulering de slechteriken moeten vertragen en de goede ontwikkelaars moeten versnellen. Het lijkt er dan ook op dat wat er met de eerste SMI gebeurt erg belangrijk gaat zijn."

Altman is niet de enige die aanstuurt op regulering. Technologiedirecteur Mira Murati van OpenAI liet in een interview met Time Magazine ook al vallen dat ChatGTP onder toezicht zou moeten staan, omdat het misbruikt kan worden. "Het is niet te vroeg" om het te reguleren, gaf Murati aan.

Ook techmiljardair Elon Musk, mede-oprichter van OpenAI, is voor regulering. Vorige week woensdag zei hij tijdens de World Government Summit in Dubai dat AI "enorm veelbelovend" is en een hoop kan, zowel positief als negatief. Maar het heeft regulering nodig.

"We moeten er via regulering voor zorgen dat AI veilig wordt gebruikt", zei Musk. "Het is een groter risico voor de samenleving dan auto's of vliegtuigen."

LEES OOK: Werknemers van Google moeten voorkomen dat gebruikers van Bard denken dat de AI-chatbot menselijk is: lees alle instructies