Een schoon internet

Dagelijks zijn zo'n honderdduizend mensen beroepshalve bezig om aanstootgevende filmpjes, foto's en tekst te verwijderen van het internet. Ze werken voor Facebook, Twitter en andere social media waar mensen alles kwijt kunnen wat er maar in hen opkomt, en dat is dus ook veel rottigheid. Veel van dat werk wordt uitbesteed aan lage lonen landen, zoals de Filippijnen. Zoals dat vaker gebeurt in de ICT-wereld. Maar dan gaat het vaak om routineklussen en je kunt je afvragen of het beoordelen van porno en geweld als routinewerk beschouwd kan worden. Op den duur eist het zijn tol van de content moderators, schrijft Adrian Chen in Wired. Veel mensen haken na verloop van tijd af. Ze worden nog lang achtervolgd door de afgrijselijke beelden waarmee zij geconfronteerd zijn. Over wat zij te zien krijgen, wat hun afwegingen zijn, wat ze verwijderen en wat ze door laten hoort de buitenwereld niets. Ze krijgen hun opdrachten en mogen er, zelfs met hun collega's, niet over praten. Voor een discussie over de grenzen van de uitingsvrijheid is geen tijd. De content moderators moeten voor hun schamel loon duizenden beelden per dag verwerken en in seconden beslissen of iets door mag of niet. Gezien de overvloed aan rottigheid op het internet lijkt er geen alternatief te zijn voor deze particuliere bewaking van de fatsoensgrenzen.




Een andere, minder belastende vorm van "content moderatie" zien we bij gespreksgroepen en discussiefora. Een belangrijke opgave voor de moderatoren in deze omgevingen is het verwijderen van "trollen", deelnemers die geen ander doel hebben dan een discussie te verzieken. Voorkomen moet worden dat mensen weglopen van discussies door het agressieve optreden van een bepaalde deelnemer. Maar hoe onderscheid je de trol van de eeuwige querulant, die ook behoorlijk lastig kan zijn in een debat? Soms wordt iemand die nogal fel uit de hoek komt als trol weggezet door anderen die zich beledigd voelen. Hoe zwaar wegen de woorden die iemand gebruikt? Moderatoren moeten vaak beslissen over taalgebruik en gevoeligheden zonder concrete richtlijnen. Met een overmaat aan korte lontjes en lange tenen opereren zij in een mijnenveld. 

Het opschonen van het internet door het verwijderen van trollen en aanstootgevend materiaal gebeurt vanuit algemene fatsoensnormen en particuliere opvattingen van de moderatoren of hun opdrachtgevers, soms gebaseerd op reacties uit het publiek. Het blijft een weinig transparant proces waarvan de internetgebruikers de uitkomsten zonder veel eigen inbreng moeten afwachten. Wat ten ten onrechte in de prullenbak belandt zullen we nooit te weten komen. Met wat er wordt doorgelaten kunnen de particuliere moderatoren trends zetten voor fatsoensnormen op het internet. En dat alles gebeurt buiten de openbaarheid. Fatsoensnormen zijn daarmee niet langer een zaak voor het publieke domein.

Auteursrechten en privacybescherming
 
Over het verwijderen van content die in strijd is met de bescherming van auteursrechten of de privacy horen we wel iets meer. Daar gaat het meestal om hardere belangen en veel geld. Er zijn wetten en procedures en er worden rechtszaken over gevoerd die af en toe in de publiciteit komen. Maar aan verreweg de meeste verwijderingsbeslissingen komt geen rechter te pas. Een melding bij de provider met een verzoek tot verwijdering volstaat volgens de Amerikaanse de Digital Millenium Copyright Act (DMCA) , een voorbeeld op dit gebied voor de hele wereld. Deze regeling kost Internet Service Providers veel werk. Dus ook hier wordt er niet lang over gesoebat als er een aanmaning komt om een muziekbestand, een foto of een filmpje te verwijderen. Om kostbare procedures te vermijden voldoen de providers doorgaans snel aan dergelijke verzoeken. En ook hier wordt de openbaarheid doorgaans niet gezocht. Een openbare database voor het vastleggen van verwijderacties is Chilling Effects Na klachten over het verwijderen van links van de Scientology Church werkt Google mee aan deze database.

Toezicht op de uitvoering van DMCA-regelingen is van groot belang. Misbruik van deze regelgeving om ongewenste uitingen te verwijderen is namelijk erg eenvoudig en daar wordt dan ook nogal eens gebruik van gemaakt, zoals de digitale burgerrechtenorganisatie EFF onlangs liet zien. Ook is het goed mogelijk dat bedrijven na een aanmaning volgens de notice and takedown-procedure gevoelig materiaal laten verdwijnen om rechtszaken over schending van de privacy te voorkomen. Zeker nu de Europese rechter het "recht om vergeten te worden" dichterbij heeft gebracht.

Tenslotte zijn er de opschoonacties op initiatief van politie en justitie waarover de media ook af en toe berichten. Zoals over de bestrijding van kinderporno en terrorisme, onderwerpen waar veel debat over is, die echter ook gevoelig zijn voor tijdgebonden stemmingen in de publieke opinie. Wat vandaag nog wordt toegestaan kan morgen uiterst gevoelig liggen. Deze stemmingen beïnvloeden uiteraard ook de particuliere moderatoren. En het optreden van de politie in specifieke gevallen, waarbij de wet niet altijd nauwkeurig wordt gevolgd.

De uitvoering van wetten die de grenzen van de communicatievrijheid bepalen komt sinds de komst van het internet meer en meer in handen van particuliere bedrijven en individuen. Hun beslissingen zijn steeds vaker onttrokken aan de openbaarheid van het publieke domein. Maar ze hebben wel grote invloed op de normen die in de virtuele ruimte van het internet gelden.

Aansprakelijkheid vermijden

Een schoon internet is even illusoir als een wereld waaruit het kwaad is verwijderd. Het opschonen heeft echter onmiskenbaar een publiek belang vanwege de uitingsvrijheid en andere burgerrechten die in het geding zijn. Dat opschonen verdient daarom een uitgebreider openbaar debat. Helaas wordt veel van dit werk inmiddels dus achter gesloten deuren verricht in opdracht van particuliere ondernemingen die uitsluitend gebaat zijn bij het voorkomen van aansprakelijkheid voor juridisch aanvechtbare content. Dat kan behoorlijk in de papieren lopen als het om auteursrecht of privacybescherming gaat. Maar ook om gedoe met autoriteiten te voorkomen passen bedrijven zich graag aan. Zo kregen moderatoren een paar jaar geleden van Google's juristen de opdracht om alle preken van de Amerikaanse radicale moslim Anwar al-Awlaki te verwijderen nadat een Britse vrouw die een politicus had neergestoken naar hem had verwezen.

Google presenteert zichzelf nu wel graag als bestrijder van overheidscensuur. De aanvankelijk meegaande houding in de relaties met China is veranderd. Het bedrijf zet nu versleuteling van berichten in om de censuur te vermijden. Maar burgers blijven afhankelijk van de beslissingen van bedrijfsdirecteuren die niet openbaar zijn en niet ter discussie staan. Ook in het geval van de operatie waartoe Google gedwongen werd door het arrest van het Europese Hof dat bepaalde dat links naar achterhaalde berichten die schadelijk zijn voor een persoon verwijderd moeten worden. Google volgt het arrest, maar bepaalt zelf wat er naar buiten wordt gebracht over de gevolgde werkwijze.

Techno-libertarisme

Het probleem is het afnemende gewicht van algemene, publieke belangen. Google en andere grote ICT-bedrijven werken vanuit een libertaire ideologie die geen boodschap heeft aan algemene belangen of een publieke ruimte. In deze ideologie is de overheid tot een absoluut minimum gereduceerd. De maatschappij wordt bij voorkeur volledig geregeld door bedrijven en individuen, die uitsluitend handelen vanuit particulieren belangen, ook in de virtuele wereld van het internet. Democratie is aan de techno-libertairen niet besteed. Veel te stroperig en veel te veel 'verkeerde' uitkomsten. "Politiek gaat over transacties en is ondoorzichtig, met hiërarchieën en handdrukken. Technologie is empirisch en veelal transparant, gedreven door data." Data, gegevens, moeten de wereld sturen. "In de wereld van Google bestaan geen conflicten over fundamentele waarden - alleen praktische kwesties die een oplossing nodig hebben. De democratie is volgens die gedachte geen arena waar ideeën botsen, maar een instrument dat meer of minder geschikt is om de wereld op te stuwen naar eeuwig toenemende welvaart en vooruitgang", schrijft Thijs Kleinpaste naar aanleiding van het plan van enkele tech-ondernemers uit California om van Silicon Valley een eigen staat te maken. In deze ideologie zal het opschonen van het internet dus vooral een technologische opgave zijn. Een open discussie over de grenzen van de uitingsvrijheid zullen de internet-ondernemers liever vermijden. Is de oude droom van uitbreiding van de democratie door de inzet van nieuwe media hiermee definitief een illusie geworden?