ChatGPT, de chatbot van softwarebedrijf OpenAI, maakt gebruik van grote taaldatabases om teksten te produceren. De bot schrijft essays, gedichten, motivatiebrieven en kan zelfs gebruikt worden als zoekmachine.

Het vermogen van ChatGPT om tekst te produceren kan ook worden misbruikt door bijvoorbeeld studenten om de chatbot een opdracht geven om delen van een werkstuk, essay of scriptie te genereren. En dit gebeurt ook al.

Maar er zijn manieren om dit soort misbruik van de chatbot tegen te gaan. OpenAI heeft zelf een tool gelanceerd die onderscheid probeert te maken tussen door mensen geschreven teksten en het werk van artificial intelligence. Dat zou een handig hulpmiddel kunnen zijn om ChatGPT-plagiaat te onderscheppen, al lijkt de herkenningssoftware nog niet al te best te werken.

Ook is er ChatZero, een app van de 22-jarige student Edward Tian die beoordeelt of een tekst is geschreven door ChatGPT.

Universiteiten gebruiken nog geen ChatZero

De herkenningstools zijn, net als ChatGPT zelf, relatief nieuw en worden nog niet gebruikt door onderwijsinstellingen. De Universiteit Leiden en de Universiteit van Amsterdam laten desgevraagd weten dat zij geen gebruik maken van software die het gebruik van ChatGPT onderschept.

"We maken op instellingsniveau op dit moment geen gebruik van dergelijke software omdat de resultaten (nog) niet betrouwbaar genoeg zijn", is de reactie van Universiteit van Leiden. Daarnaast noemt de universiteit een mogelijke schending van auteursrecht (als de auteur geen toestemming heeft gegeven) en schending van privacy (als het een werk betreft waar persoonsgegevens in staan) als redenen om de tools zoals ChatZero niet te gebruiken.

"We volgen de ontwikkelingen van leveranciers van plagiaatsoftware op de voet maar maken nu geen gebruik van ChatZero", geeft een woordvoerder van de Universiteit van Amsterdam aan. Bij het afsluiten van contracten met een leverancier voor de detectie van ChatGPT-teksten zal er in de toekomst een uitgebreide toets plaatsvinden met betrekking tot privacyrichlijnen.

De vraag is dus of nieuwe anti-plagiaatsoftware zoals ChatZero zomaar door onderwijsinstellingen gebruikt mag worden. Business Insider vroeg jurist Sten Demon van ICTRecht wat de mogelijke knelpunten zijn.

Toestemming vragen van student is niet altijd nodig

Onderwijsinstellingen hoeven niet altijd toestemming te vragen van een student om een werkstuk door een plagiaatscanner te halen, zegt Demon. "Er zijn andere gronden in de wet die je kunt gebruiken als het gaat om privacyrecht, zoals het gerechtvaardigd belang van de universiteit. In dat geval wordt het belang van de universiteit afgewogen tegen de belangen van de student. Dit kan een basis vormen om ChatZero te mogen gebruiken."

Een andere manier om schending van privacyrechten te voorkomen is het anonimiseren van een werkstuk. Je haalt dan alle persoonsgegevens eruit voordat het werk wordt geüpload. "Vanuit een privacyoogpunt is het dan niet meer spannend."

Zelfs met het anonimiseren moeten onderwijsinstellingen uitkijken dat ze met het uploaden van werk het auteursrecht van studenten niet schenden, zegt Demon. Onderwijsinstellingen kunnen voor wat betreft het auteursrecht hetzelfde beleid voeren als ze al doen bij het gebruik van de huidige anti-plagiaattools, aldus de jurist.

Als er niet geanonimiseerd wordt, dan schrijft de Algemene Verordening Gegevensbescherming (AVG) volgens Demon voor dat je bij het gebruik van tools zoals ChatZero moet gaan toetsen wat het risico is voor de privacy van studenten. "Bij een hoog risico zullen onderwijsinstellingen inderdaad een uitgebreide toets moeten uitvoeren, ook wel een Data Protection Impact Assessment (DPIA) genoemd."

Daarnaast zullen ze ook een Data Transfer Impact Assessment moeten uitvoeren, omdat tools zoals ChatZero gegevens in de VS verwerken, vertelt de jurist. "Het gaat om een doorgifte van persoonsgegevens over de landsgrenzen heen. Helemaal als de gegevens worden doorgegeven buiten de Europese Economische Ruimte zal goed uitgezocht moeten worden of de privacy van de studenten adequaat beschermd blijft."

Dat is ook het belangrijkste verschil met anti-plagiaatsoftware die bijvoorbeeld universiteiten nu al gebruiken, aldus Demon. "Daar hebben ze al de risico's getoetst en de juiste overeenkomsten gesloten met leveranciers. Voor tools als ChatZero geldt dat nog niet. Naast het toetsen van de risico’s zullen onderwijsinstellingen dus ook nog afspraken moeten vastleggen met ChatZero voordat het gebruikt kan worden."

Gegevens van papers kunnen 'gevoed' worden aan tools zoals ChatZero om een herkenningsbot beter te maken, maar dat maakt het voorgaande niet anders, stelt Demon. "Dat gebeurt bij anti-plagiaatsoftware ook. Je moet het alleen goed uitzoeken. Als gegevens langdurig worden opgeslagen, wil je misschien wel wat extra vragen stellen. Bijvoorbeeld hoe de rechten van betrokkenen zorgvuldig afgehandeld kunnen worden, zoals het recht op rectificatie en om vergeten te worden."

LEES OOK: Je kunt ChatGPT voor je sollicitatiebrief gebruiken, maar probeer niet te verhullen dat je bepaalde vaardigheden niet hebt, aldus een recruiter