Facebook gaat harder z’n best doen om ongepast – en vaak crimineel – materiaal te monitoren en te verwijderen, zo kondigt CEO Mark Zuckerberg woensdag aan.
In de loop van het komende jaar zal het socialemediabedrijf 3.000 werknemers toevoegen aan het team dat zich hier nu al mee bezighoudt. Daarmee komt het team in totaal op 7.500 man uit.
De gigantische uitbreiding van het team kan, zoals Reuters opmerkt, worden gezien als een erkenning van Facebook dat automatisch monitoren van berichten verre van voldoende is.
Facebook heeft namelijk een behoorlijk probleem als het gaat om het verspreiden van choquerend, vaak illegaal beeld- en videomateriaal.
Wraakpornozaak
Zo werd er eerder dit jaar in Zweden een groepsverkrachting live uitgezonden via Facebook – de livestream werd pas onderbroken toen de politie de woning binnenviel en de laptop dichtdeed.
En dat is helaas verre van het enige prominente geval. Vorige week streamde een vader uit Thailand de moord op zijn eigen dochter en vorige maand zette een Amerikaanse man een video van een moord op Facebook.
In Nederland is de zogenoemde 'wraakpornozaak' het bekendste geval waar via Facebook illegaal videomateriaal werd verspreid. In die zaak stelde het sociale netwerk in eerste instantie dat het geen data in het bezit die naar de verspreider zouden kunnen leiden, maar later werden er toch aanwijzingen gevonden op de servers van Facebook.
Voorkomen is nog lastig
Tijdens Facebooks jaarlijkse conferentie eerder dit jaar wijdde Zuckerberg al aandacht aan dit onderwerp. Hij zei mee te leven met de familie van de slachtoffers en gaf toe dat Facebook "nog veel werk te doen heeft om te voorkomen dat dit soort drama's zich weer voordoen".
Zuckerberg wil het nu naar eigen zeggen makkelijker maken om dit soort video's en foto's te rapporteren, zodat er sneller actie kan worden ondernomen.
Facebook wil beter zijn best doen, maar het probleem met livestreams blijft dat er alleen áchteraf kan worden verwijderd, wanneer honderden (of duizenden) het materiaal al hebben gezien, of zelfs opgenomen. In tegenstelling tot een anoniem videokanaal op het internet, kunnen via sociale streamingdiensten zoals YouTube, Facebook en Periscope (eigendom van Twitter) video's van moorden en verkrachtigen binnen enkele seconden direct een gigantisch publiek bereiken.
Facebook is overigens niet het enige sociale netwerk dat met dit probleem kampt. Periscope heeft te maken met dezelfde problemen. CEO Kayvon Beykpour zei hierover eerder tegenover NU.nl dat het verspreiden illegaal materiaal lastig te verhelpen is: "Het is moeilijk voor een communicatieplatform om te voorkomen dat mensen bepaalde dingen doen in de wereld."
Kunstmatige intelligentie
Voorkomen zal waarschijnlijk altijd lastig blijven, omdat het om livestreams gaat. Maar het zou in de toekomst wel mogelijk kunnen zijn om er zó snel bij te zijn dat dit soort materiaal vrijwel direct offline wordt gehaald.
De oplossing om die enorme hoeveelheid videomateriaal te kunnen scannen, ligt volgens Facebook bij kunstmatige intelligentie, of artificial intelligence (AI). Facebook maakte eind vorig jaar bekend dat het experimenten uitvoert met deze technologie. Het speurwerk wordt in dat geval gedaan door algoritmen en zelflerende scripts, die uiteindelijk veel sneller kunnen werken dan de manier waarop het nu werkt; het maken van een melding via een vinkje.
Facebook gebruikt daarnaast nu al beeldherkenningstechnologie om wraakporno en kinderporno van het platform te houden. Wanneer er iets wordt verwijderd omdat het ongepast is, kunnen de servers van Facebook dat materiaal herkennen, zodat het niet opnieuw kan worden geüpload.