Boek: Code is Law

De Amerikaanse professor in de rechten Lawrence Lessig heeft in zijn carrière al een enorme invloed gehad op het denken over auteursrecht, creativiteit, en politiek.

In zijn boek Code is Law vergelijkt hij programmeercode met wet teksten. Beide hebben het vermogen om ons handelen te sturen. Wanneer steeds meer aspecten van ons leven door computers wordt ondersteund, zal steeds vaker regulerende macht van de wetgever naar de programmeur schuiven.

Our choice is not between “regulation” and “no regulation.” The code regulates. It implements values, or not. It enables freedoms, or disables them. It protects privacy, or promotes monitoring. People choose how the code does these things. People write the code. Thus the choice is not whether people will decide how cyberspace regulates. People–coders–will. The only choice is whether we collectively will have a role in their choice–and thus in determining how these values regulate–or whether collectively we will allow the coders to select our values for us.
– Lawrence Lessig.

Dat kan heel letterlijk zijn. Volgens de wet mag je niet dronken rijden. Maar in een noodgeval zou je het risico kunnen nemen en het toch kunnen doen. Tot je een auto hebt die niet wil starten voordat je de ingebouwde alcoholtest doet.

De vier grote gedragsbeinvloeders

Niet alleen de wet en programmeercode sturen ons gedrag: ook de markt en onze normen hebben invloed. De uitdaging voor beleidsmakers, stelt Lessig, is om alle vier de factoren optimaal samen te smeden:

Die vier factoren kunnen elkaar soms tegenwerken, en soms versterken. Zo kan het volgens de wet verboden zijn om de programmeercode in een technologisch product te analyseren, waardoor de code van de wet de technologische code rugdekking geeft.

De factor ‘architectuur’ die Lessig beschrijft wordt in de vorm van programmeercode steeds alomtegenwoordiger, en daardoor machtiger. Dat brengt problemen met zich mee. In tegenstelling tot het wetboek is programmeercode bijvoorbeeld niet door burgers in te zien (open source software is een fijne uitzondering). Hierdoor is het lastig voor burgers om misstanden te ontdekken of te bekritiseren. Het democratisch tekort in een tabel:

Technologie Wetgeving, politiek en normen
Snel prototypen (en dan iedereen verrassen) is waar het om draait. Trage processen, die ook bewust traag (en ten dele open) ontworpen zijn.
Programmeercode is meestal bedrijfsgeheim (open source is te zeldzaam). Als maatschappij hebben we, zoals hierboven beschreven, een blinde vlek voor de normerende kracht die technologie in zicht heeft.
Wordt je onterecht benadeeld? Sorry, ik kan je geen inzicht geven in de algoritmes. Maar ik kan je wel vertellen dat ze neutraal zijn.
Vrouwe Justitia is niet zo blind als ze claimt, maar wetgeving is voor iedereen in te zien. We begrijpen en beseffen ons allemaal dat de wet bepaalde normen vastlegt. We begrijpen dat de wet geen perfect systeem is. Daar is zelfs op geanticipeerd: bij onrecht is er de mogelijkheid ingebouwd om een mens aan te spreken: de rechter.
Discussie vindt meestal pas achteraf plaats wanneer de nadelige effecten zich manifesteren, en de hype is uitgewerkt. In die discussie moet naar de werking van de algoritmes moet worden gegist. De discussie wordt vervolgens afgeremd door startup retoriek als ‘Meer disruption! Minder Discussie! Niet denken gewoon doen’.
Voor bedrijven als Uber is het zo snel groeien dat je niet meer weg te reguleren bent zelfs een bewuste en expliciete tactiek geworden. Zie ook “reverse technology assessment“.
Wetvorming wordt meestal vooraf gegaan door discussie, waarbij de waarde van het breed voeren van het debat (vooralsnog) een democratische kernwaarde is. Onze vertegenwoordigers hebben op zijn minst een onderlinge discussie, en vaak wordt deze ook in de media en tijdens bijeenkomsten gevoerd.
Er zijn op de Autoriteit Persoonsgegevens na eigenlijk geen organisaties die de normatieve aspecten van digitale technologie toetsen. Er zijn wel verschillende instituten die de problematiek doorzien, maar deze kunnen technologie niet van de markt houden. De wet kan worden getoetst op kwaliteit, en kan zo nodig worden verworpen, bijvoorbeeld als ze geen recht doet aan een mensenrecht of de grondwet. Het is een institutioneel proces dat door honderden jaren van vallen en opstaan zo is ontworpen.

Samengevat:

Technologie is macht. Bezint eer ge aan programmeren begint.

ARTIKEL Code is Law, door Lessig

BOEK PDF Code and other laws of cyberspace

Zie ook het boek Weapons of Math Destruction, dat in beeld brengt hoe de groei van code als regulerende kracht de burger minder controlerende macht geeft.