De snelle opmars van artificial intelligence (AI) en de vele problemen die ermee gepaard gaan, zorgen ervoor dat er er de nodige vraagtekens bestaan over hoe de toekomst met de nieuwe technologie eruit gaat zien. 

Bekende discussiepunten zijn onder meer de eigenschap van AI-chatbots om fictieve antwoorden te verzinnen op vragen en die te presenteren alsof het feiten zijn. Dat wordt ook wel ‘hallucineren’ genoemd. Ook het gebrek aan kennis over de interne werking van de grotere large language models (LLM’s) zoals ChatGPT baart IT-experts zorgen.

Als er iemand is die ons gerust zou moeten kunnen stellen over deze problemen , dan is het CEO Sam Altman van OpenAI, het bedrijf achter ChatGPT. Maar zelfs hij tast in het duister.

“De grootste verrassing is dat het allemaal werkt”, gaf Altman woensdag aan over wat hem het meest opviel over de afgelopen acht jaar op de techconferentie Dreamforce in San Francisco. “Je begint aan een project met een wetenschappelijk missie en je kunt vanaf dat moment alleen maar hopen dat het werkt.”

Altman deed in een tweegesprek met CEO Mark Benioff van softwarebedrijf Salesforce, de organsator van de conferentie, ook een opvallende uitspraak over het hallucinatieprobleem van AI-chatbots. Hij ziet het namelijk helemaal niet als probleem, maar als een kracht van de nieuwe technologie. “Een van de dingen die minder opvallen is de waarde die gehaald wordt uit het feit dat deze systemen hallucineren”, legde hij uit. 

“Als je iets wilt opzoeken in een database, dan hebben we daar al goede oplossingen voor. Maar het feit dat deze AI-systemen met nieuwe ideeën kunnen komen, creatief kunnen zijn, is een groot gedeelte van de kracht”, aldus Altman.

Hij nuanceerde deze uitspraak nog wel enigszins door te verklaren dat er bij OpenAI gewerkt wordt aan oplossingen om ervoor te zorgen dat deze hallucinaties alleen plaatsvinden als de gebruiker daar ook expliciet om vraagt. Op andere momenten moet de AI-chatbot gewoon feitelijk correcte informatie oprakelen. Hoever het bedrijf hiermee is, vertelde de CEO niet.

Artificial intelligence gaat nog nare verrassingen brengen

Over de toekomst met AI liet Altman zich tijdens zijn optreden op Dreamforce opmerkelijk genoeg vooral in negatieve zin uit. Afgezien bijvoorbeeld AI-software als hulpje voor studenten, gaf hij aan dat ze bij OpenAI ervan uitgaan dat er op termijn zeker iets slechts staat te gebeuren.

“Tot nu toe hebben we nog niets echt engs meegemaakt in het lab, maar we weten dat het er zeker aan zit te komen”, vertelt Altman. “We zullen niet verrast zijn als het komt.” En daarbij kan de CEO niet de toekomst voorspellen, dus geeft hij ook geen mogelijke voorbeelden van wat het ‘engs’ kan zijn.

Wat hij wel weet is dat hij, als bekende doomsday prepper, helemaal niets aan voorbereidingspakketten voor een catastrofe zal hebben, als het fout gaat met AI. “Ik maak me geen illusies dat het ons gaat beschermen, of jou, of wie dan ook als het fout gaat met AI”, zegt Altman. “Ik denk ook dat het raar is als mensen verwachten dat dit wel het geval is. Voor mij is het gewoon een hobby die ik als sinds kind heb.”

En of zijn gouden Indonesische visa hem een uitweg biedt als het allemaal de verkeerde kant op gaat? “De snelheid van het licht is echt snel… ik denk dat de AI er al is voordat ik er kan zijn”, grapte Altman.

LEES OOK: Een zorgwekkende ontwikkeling rond artificial intelligence kan een grote impact hebben op de kwaliteit van de informatie op het internet