Publicatie: Databrokers

De Federal Trade Commission van de Verenigde Staten heeft in 2014 een onthullend rapport gepubliceerd over de activiteiten van ‘databrokers’. Dit zijn bedrijven die grote hoeveelheden data en inzichten over burgers verzamelen en doorverkopen.

Het gaat niet alleen om adverteren

Het gangbare verhaal is dat de profielen worden gebruikt om advertenties te personaliseren. Wat het rapport uitlegt is dat voor databrokers een groot deel van het geld niet van adverteerders komt, maar van partijen aan wie ze ‘risico management producten’ verkopen. Denk aan werkgevers, banken, verzekeraars en overheden (zie Cambridge Analytica) die risico’s willen afdekken.

Daarnaast bieden ze Data Enrichment Services aan: ze helpen overheden en bedrijven gaten in hun data op te vullen.

Groei

Deze markt is de afgelopen jaren enorm gegroeid, zowel in omvang als intensiteit. De partijen die ze onderzochten verkopen onderling ook data aan elkaar. Sommige hadden wel 3000 datapunten per burger. Naam? woonplaats? zwanger? sportief? stipt? rijk? homo? activistisch? verkracht? gelovig? gezellig? Het is vaak bekend, of er is uit gedragsdata een waarschijnlijkheidsscore gedestilleerd.

Er zijn natuurlijk voordelen voor de burger: als die een goede score heeft, krijgt die meer vertrouwen, en daardoor meer kansen. Systemen die onze reputatie meten maken het mogelijk om vertrouwen te scheppen op plekken waar dat voorheen niet bestond. Je huis verhuren aaneen wildvreemde, dat was voor de burger een risico. Maar dankzij AirBNB is dat risico verlaagd.

Maar, zo legt het rapport uit, er zijn op dit moment stevige nadelen die regulering vereisen.

PUBLICATIE Databrokers Рa call for transparency and accountability, FTC, 2014

PUBLICATIE Corporate Surveillance in everyday life, Wolfie Christl, 2017

Nederland

Ook in Nederland zijn databrokers actief. Door de betere regulering hebben die minder scores te koop, maar ook hier zou het om honderden scores gaan.

Nederlandse voorbeelden zijn:

ARTIKEL Maaike Goslinga over Databrokers in Nederland

DOSSIER Bits of Freedom houdt een dossier bij over profilering.

Het gebruik van profielen in de praktijk

De databroker industrie krijgt nog altijd verrassend weinig aandacht vanuit de bredere maatschappij. Enkel het zeer zichtbare topje van de ijsberg dat profielen gebruikt voor adverteren – Facebook, Google – is in beeld.

In de Verenigde staten is er veel minder regulering, en hebben er al meerdere schandalen plaatsgevonden.

In Rusland gaan databrokers ook relatief ver.

Enkele voorbeelden van activiteiten in Nederland zijn:

En ook in Nederland ontstaan kleine schandalen.

China

Het toppunt van risico profilering is in China te zien. Daar bouwt de overheid aan het Social Credit systeem. Grote partijen aldaar zijn:

  • Tencent
  • Alibaba (bouwt het ‘Sesame credit’ systeem)
  • Mining Lamp

En natuurlijk de overheden zelf. In totaal zijn er zo’n 70 experimentele reputatie systemen die binnen regio’s of digitale diensten worden uitgeprobeerd.

MINI DOCUMENTAIRE Exposing China’s Digital Dystopian Dictatorship.

PRESENTATIE “The Social Credit System”, tijdens CCC 2018.

VIDEO Propaganda Games: Sesame Credit – The True Danger of Gamification

Zie ook het concept van de ‘Risk Society’ van Ulrich Beck.
Zie ook het boek Weapons of Math Destruction, over maatschappelijke gevolgen van een te sterk vertrouwen in geautomatiseerde beoordelingen.

Beleid

Er ontstaan steeds meer stemmen om deze praktijken in te dammen. De eerste fundering is met de GDPR wetgeving gelegd (artikel 13).

In de Amerikaanse staat Vermont werd een wet aangenomen die databrokers verplicht stelde zich te registreren, waarna er meteen 120 aanmeldingen waren.

In de EU stelde in 2019 een onderzoeksgroep voor om de hele praktijk te verbieden.