De Europese Commissie wil communicatie van privépersonen en instellingen met behulp van kunstmatige intelligentie (AI) gaan controleren op kinderporno. Daartoe wil Eurocommissaris Ylva Johansson voor Binnenlandse Zaken de wet CSA Regulation invoeren.

Volgens Business AM zullen niet alleen verdachten van het verspreiden van kinderporno in de gaten worden gehouden, maar letterlijk iedereen: zowel overheidscommunicatie als officiële communicatie tussen of met bedrijven en privémails en -berichten tussen privépersonen zullen worden gescreend.

Als de landen van de Europese Unie instemmen met het voorstel, heeft dat effect op de privacy van alle 447 miljoen inwoners van de EU, schrijft Euronews over het omstreden voorstel. De AI-software gaat niet alleen op zoek naar taalpatronen die verband kunnen houden met kinderlokkerij, maar scant ook alle foto’s op onze computers en telefoons, bestanden in de cloud en e-mails op de aanwezigheid van kinderporno.

Volgens eurocommissaris Johansson is dat de enige manier waarop de Europese Unie de online veiligheid voor kinderen kan waarborgen, maar privacy-experts hebben felle kritiek op haar plannen.

AI-software is foutgevoelig en kan voor dubieuze doeleinden worden ingezet

Allereerst is de AI-software nog lang niet perfect, zegt advocaat Thomas Spaas tegen Business AM. Die kan moeilijk het verschil zien tussen volwassen en kinderen en tussen onschuldige naaktfoto’s in de privécontext en kindermisbruikmateriaal. Wat doet de technologie met foto’s van een familie op het strand of van kinderen in bad bij oma?

Ook blijkt uit onderzoek dat kinderen zich niet meer veilig voelen om hun seksualiteit te ontdekken of politiek actief te worden als ze weten dat al hun communicatie gescand wordt.

Maar misschien wel het grootste probleem is dat de kunstmatige intelligentie ook voor hele andere doeleinden kan worden ingezet dan het tegengaan van het verspreiden van kinderporno. “Stel dat je een sociaal conflict hebt zoals in Frankrijk, en Macron zegt ‘ik wil al het materiaal dat met de betogers te maken heeft weren’, dan zou dat eventueel kunnen”, waarschuwt Spaas.

Volgens de Data Protection Supervisor van de Europese Unie brengt de CSA Regulation bijna alle internetgebruikers in gevaar, terwijl er nauwelijks bewijs is dat de wet ook daadwerkelijk de verspreiding van kinderporno kan tegenhouden.

Beleidsaviseur Ella Jakubowska van European Digital Rights (EDRi) schrijft op Euronews dat er in plaats van het invoeren van wetgeving die de privacy van burgers bedreigt, meer geïnvesteerd moet worden in kinderbeschermering, preventie, opsporing door justitie, onderwijs, voorlichting en meldpunten voor online misstanden.

LEES OOK: Dit is de visie van Bill Gates op de toekomst van artificial intelligence