Opeens flakkeren de lichten in Garri Kasparovs conferentieruimte aan en uit als een stroboscoop. Uit de Sonos-luidspreker knalt een rocknummer op volle sterkte. Dan gaat de televisie uit zichzelf aan: “Uw tv is met ransomware geïnfecteerd!” staat er op het beeldscherm. Eronder prijkt een rood doodshoofd.

Het is een hacker gelukt de beveiligde conferentiekamer binnen te dringen, gelukkig alleen voor de show.

De ware naam van de hacker is Vlad Iliushin en hij is beveiliger bij Avast, een bedrijf dat anti-virussoftware maakt. Samen met de oud-wereldkampioen schaken Garri Kasparov toonde hij op de International Consumer Electronics Fair (IFA) in Berlijn aan hoe eenvoudig het is om een smarthome van buitenaf binnen te dringen.

“Ik zou nooit een spraakassistent kopen omdat ik weet hoe kwetsbaar zo’n systeem is”, zegt Kasparov in een interview met Business Insider. De 55-jarige schaakgrootmeester heeft een speciale band met intelligente machines: in 1997 verloor hij als eerste wereldkampioen van een computer, IBM’s Deep Blue.

Die nederlaag geldt als de waterscheiding in de verhouding tussen mens en machine en bracht het thema kunstmatige intelligentie – een buzzword dat toen overigens nog niet in die hoedanigheid bestond – voor het eerst in de publieke belangstelling.

Sindsdien houdt Kasparov zich bezig met de thema's mens & machine, databeveiliging en cyberveiligheid. Sinds 2016 werkt hij als boodschapper van Avast.

Business Insider sprak Kasparov op de IFA 2018. In het interview verklaart hij waarom hij nooit een Alexa zou kopen, welk advies hij heeft voor de omgang met intelligente machines en waarom hij vindt dat de grote techconcerns er een dubbele moraal op nahouden.

Business Insider: U bestempelt uw toenmalige tegenstander Deep Blue vaak als allesbehalve intelligent. Waarom? 

Garri Kasparov: "Zelfs tot op de dag van vandaag, 25 jaar nadat ik tegen Deep Blue schaakte, hebben we te maken met machines die over kracht beschikken – niet over intelligentie. Die machines werken met de informatie die wij hun ter beschikking stellen. Een machine die 200 miljoen posities per seconde berekende was destijds ongekend in het schaken. Tegenwoordig is elke willekeurige schaak-app beter dan Deep Blue. Maar zou je deze apps intelligent noemen?"

Deze apps zijn in elk geval beter met schaken.

"Het is een wijdverbreid misverstand dat machines intelligent zijn. Louter omdat ze van ons winnen en ons in cognitieve vaardigheden overtroeven. We denken – en dat is het probleem waarmee ik in 1996/1997 geconfronteerd werd en waarmee we nu ook geconfronteerd worden – dat die machines perfect zin. En dat zijn ze helemaal niet!"

Wat zijn de zwakke punten van intelligente machines? 

"Een gebrek aan flexibiliteit. Het grootste probleem – zelfs voor de meest veeleisende computers zoals het Deepmind Alpha Zero-product – is dat ze alléén goed zijn in die gebieden waarvoor we ze hebben ontwikkeld en geprogrammeerd. Elk door ons ontwikkeld gesloten systeem garandeert dat machines die alleen de regels kennen beter zijn dan mensen. Waarom? Omdat ze niet gevoelig zijn voor fouten, niet zelfgenoegzaam zijn en altijd op hun qui-vive. Maar ze kunnen de kennis die ze in een gesloten systeem 'hebben opgedaan' niet zomaar overdragen naar een open systeem. De mens moet ze nog steeds een kader geven."

U zei ooit: "Het is aan de mens om het probleem te kiezen en aan de machine om dat op te lossen."

"Eigenlijk zei Joseph Weitzenbaum dat voor het eerst, en wel in zijn boek Computerkracht en menselijke rede, uit 1976. Besluitvorming is een rekenactiviteit, terwijl een keuze gebaseerd kan zijn op vele andere dingen en waarschijnlijkheden. Machines werken ook met waarschijnlijkheden, maar de keuze is menselijk omdat je soms tegen alle verwachtingen in handelt en moet handelen."

Sommige mensen, waaronder Elon Musk, geloven dat machines ook op andere gebieden dan schaken superieur kunnen zijn aan mensen. En daardoor een bedreiging kunnen vormen. Wat vindt u daarvan?

"Ik zie geen bewijs voor zo'n doemscenario in de nabije toekomst. Misschien over honderd jaar of in de 23e of 24e eeuw, maar het is geen zorg voor vandaag. het hedendaagse probleem is dat mensen met kwade bedoelingen deze machines gebruiken en inzetten tegen de vrije wereld."

Vandaag de dag hebben miljoenen mensen intelligente machines in huis. Zou u ooit een spraakmachine als Alexa kopen? 

"Nee, ik zou nooit een spraakassistent kopen omdat ik weet hoe kwetsbaar zo'n systeem is. Ik leef liever zonder dit apparaat als dit een bedreiging vormt voor mijn privédata."

Heeft u andere smarthome-apparaten? 

"Ik heb een smart-tv en een paar andere apparaten, maar ze zijn niet genetwerkt. Ik wil niet dat ze met elkaar communiceren."

Want?

"Uiteindelijk draait het om informatie die je moet beschermen. Iedereen die zulke apparaten aanschaft moet weten dat er risico's aan verbonden zijn. Hackers hebben zo veel aanknopingspunten. De veiligheidsmechanismen van veel fabrikanten lopen achter op het vernuft van hackers. Zodra er data geproduceerd worden, worden ze ook verzameld. En wanneer ze verzameld worden kunnen ze ook gebruikt worden – zelfs tegen jou. Of het nou gezichtsherkenning is of vingerafdrukherkenning of Alexa: als je al die mooie apparaten wilt hebben die je leven zo veraangenamen, betaal je daar een prijs voor. Voor niets gaat de zon op."

Welk advies hebt u voor degene die toch een slim apparaat wil kopen? 

"Met dezelfde vanzelfsprekendheid waarmee je je handen wast of je tanden poetst, zou je eigenlijk een digitale hygiëne in acht moten nemen. Er zijn zo veel basale fouten die je kunt voorkomen: lees een handleiding, volg de aanwijzingen op, onderzoek voordat je iets koopt welk apparaat het best beveiligd is. Investeer een klein beetje tijd of raadpleeg een expert. Dit alles betekent niet dat er geen enkel risico meer is, maar je verkleint de hoeveelheid er wel mee. Probeer je digitale gegevens proactief te beschermen. Waarom? Omdat ze deel uitmaken van jezelf. Helaas kopen de meesten dergelijke apparaten zonder de lijst van voorzorgsmaatregelen door te nemen."

Zetten we de grote techbedrijven wel genoeg onder druk? 

"Nee, er is druk op Big Tech noch op de overheid. Men beseft nog altijd dat het hier om een groot gevaar gaat."

Maar individuele consumenten hebben slechts beperkte invloed. 

"Ze hebben een keuze - tenminste in de vrije wereld. De techbedrijven houden er niet alleen een dubbele moraal op na, ze verbergen haar niet eens."

Laten we even bij techbedrijven blijven. Wat is hun verantwoordelijkheid?

"Big Tech is een bedrijf. En bedrijven doen datgene waartoe ze gedwongen worden. Als je Apple of Google niet dwingt om bepaalde dingen te doen, zullen ze het laten. De wet voor bescherming van persoonsgegevens is daar het beste voorbeeld van. Wie denkt dat ze extra geld uitgeven om klanten te beschermen zonder dat ze daartoe gedwongen worden, houdt zichzelf voor de gek."

Veel mensen voelen zich bespioneerd door de grote techbedrijven. Een voorbeeld is Oregon, waar Alexa ongevraagd een gesprek heeft opgenomen en dat verstuurd heeft. U bent opgegroeid in de Sovjet-Unie en kent de KGB – ziet u overeenkomsten met spionage?

"Nee, daar is een groot verschil tussen. Pas wanneer je haar koopt en installeert, kan Alexa je bespioneren. Je laat de data-acquisitie toe en je meldt je quasi-vrijwillig als schietschijf. Er is verschil tussen het data verzamelen door Google en Amazon en door de KGB of de Stasi: dat is het proces.  In het ene geval is het harken naar data vrijwillig. In de meeste landen is het bij wet verboden dat je data tegen je gebruikt worden, maar in Rusland, China of Iran is dat natuurlijk een heel ander verhaal."

Dit artikel verscheen eerder op Business Insider Duitsland.