Facebook, Twitter en Google voeren in stilte strijd tegen terreurpropaganda op

Internetreuzen als Facebook, Twitter en Google hebben de strijd aangebonden met terreurpropaganda. Ze doen dat in alle stilte, omdat ze niet de indruk willen wekken dat ze samenwerken met de autoriteiten om het internet in de gaten te houden. Om terreurpropaganda te weren, moeten de technologiebedrijven moeilijke keuzes maken.

Donderdag verwijderde Facebook de profielpagina van een van de verdachten van de schietpartij in San Bernardino. Volgens een woordvoerder was de pagina in tegenspraak met de gebruiksvoorwaarden van Facebook: berichten, foto's en video's die terrorisme aanmoedigen of geweld verheerlijken, worden verwijderd. Facebook weigert te zeggen hoe het de profielpagina op het spoor kwam of hoe de authenticiteit ervan bepaald werd, schrijft The Wall Street Journal.

Een dag eerder zaten de Franse premier Manuel Valls en enkele afgevaardigden van de Europese Commissie samen met onder andere Facebook, Twitter en Google om de bedrijven te vragen sneller actie te ondernemen wanneer mensen online terrorisme verheerlijken of haat prediken.

De internetbedrijven menen dat ze er een duidelijk beleid op nahouden: informatie die in strijd is met de gebruiksvoorwaarden wordt van hun platformen geweerd. Om berichten die niet onder de gebruiksvoorwaarden vallen te kunnen verwijderen of blokkeren, is een gerechtelijk bevel nodig. Alle gebruikers kunnen berichten rapporteren, zodat ze worden nagekeken en mogelijk ook worden verwijderd. 

Volgens The Wall Street Journal benadrukt de actie van Facebook hoe groot de druk is op technologiebedrijven als Twitter en YouTube om gewelddadige inhoud en propagandamateriaal van terreurgroepen te monitoren en soms zelfs te verwijderen. Volgens de Amerikaanse krant is het onduidelijk hoe nauw de verschillende bedrijven samenwerken met de overheid, hoe vaak ze berichten verwijderen en hoe bepaald wordt welke inhoud ongepast is.

Technologiebedrijven en de overheid

Volgens voormalige werknemers zijn Facebook, Google en Twitter bang dat als ze naar buiten komen met de reële omvang van hun samenwerking met westerse veiligheidsdiensten, ze wereldwijd vragen zullen krijgen over gelijkaardige acties.

Ze zijn ook bezorgd dat gebruikers hen als overheidsinstrumenten zullen beschouwen. Of erger nog: dat als ze uit de doeken doen hoe hun screenings precies werken, ze het risico lopen dat technologisch onderlegde militanten te weten komen hoe ze het systeem kunnen omzeilen.

"Als geweten was met welk magisch trucje berichten in de nieuwsfeed terechtkomen, dan zouden spammers of andere mensen daarvan misbruik maken", zegt een veiligheidsexpert die voor Facebook en Twitter heeft gewerkt.

Een van de belangrijkste aspecten van het propagandaprobleem is de manier waarop technologiebedrijven omgaan met overheden. Facebook, Twitter en Google beweren dat ze klachten van gewone burgers niet anders behandelen dan klachten van overheden, tenzij ze over een gerechtelijk bevel beschikken. De drie bedrijven publiceren geregeld transparante rapporten waarin het aantal formele vragen van overheden over inhoud op hun platformen wordt opgelijst.

Maar er zijn manieren om dat systeem te omzeilen. Dat zeggen voormalige werknemers, activisten en overheidsambtenaren. Het is bijvoorbeeld veel efficiënter voor overheidsmedewerkers om te stellen dat een haatdragend bericht in strijd is met de gebruiksvoorwaarden van een website, dan te stellen dat het tegen de wet is. Dat soort berichten kan binnen enkele uren of zelfs minuten offline gehaald worden, zonder het papierwerk dat gepaard gaat met een gerechtelijk bevel.

"Het is gebruikelijker voor federale autoriteiten om direct contact op te nemen met Twitter en bijstand te vragen, dan via de formele weg om hulp te vragen", zegt een activist die hielp om talloze accounts offline te halen.

Wat veiligheidsdiensten, politici en een aantal activisten echt zouden willen, is dat internetbedrijven ervoor zorgen dat geblokkeerde inhoud überhaupt niet gedeeld kan worden. Maar dat zou een enorme technologische inspanning vragen, en ook een gigantische beleidsverandering.

Beelden opsporen: makkelijker gezegd dan gedaan

Alle bovengenoemde bedrijven beschikken bijvoorbeeld over technologie om beelden op te sporen die gerelateerd zijn aan de seksuele uitbuiting van kinderen. Die technologie zal waarschijnlijk uitgebreid worden om andere soorten bedenkelijk materiaal op te sporen. Dat is echter niet vanzelfsprekend: bij het opsporen van kinderporno wordt gebruik gemaakt van een databank met beelden die reeds bekend zijn. Voor beelden die te maken hebben met terreur bestaat zo'n databank nog niet. Bovendien zouden bepaalde beelden in strijd zijn met de gebruiksvoorwaarden als ze worden verspreid door extremistische gebruikers, maar niet wanneer ze deel uitmaken van bijvoorbeeld een nieuwsuitzending.

Nicole Wong, die vroeger verbonden was aan het Witte Huis, stelt dat technologiebedrijven liever geen databanken met extremistische video's willen aanleggen, omdat ze bang zijn dat ook repressieve overheden zouden vragen om dat soort databanken, om die vervolgens in te zetten om alle berichten die ze niet gepast vinden te screenen.

"Technologiebedrijven zijn terecht voorzichtig. Het zijn globale spelers en als ze iets met een bepaald doel bouwen, kunnen ze niet zeggen dat het niet voor andere doeleinden gebruikt mag worden. Als je zo'n databank bouwt, zal die ook gebruikt worden om bijvoorbeeld in China dissidenten tegen te houden."

Verstrengd beleid

Volgens The Wall Street Journal is het duidelijk dat onder andere Facebook zijn aanpak intussen verstrengd heeft. In 2012 weigerde Facebook nog fanpagina's voor een dolle schutter in Colorado te verwijderen, omdat ze geen concrete bedreiging zouden vormen voor anderen. Vorig jaar haalde Facebook een pagina die een andere schutter verheerlijkte wél offline.

Jillian York, directeur vrije meningsuiting bij Electronic Frontier Foundation, vertelt aan The Wall Street Journal dat ook Facebookpagina's voor Islamitische Staat, Hamas en andere terreurgroepen al offline werden gehaald. Het waren pagina's met informatie die onder andere afkomstig was van Wikipedia, en die terrorisme niet verheerlijkten. Volgens York is dat een teken dat het bedrijf preventief scant en terreurgerelateerde berichten censureert.