Technologie is niet neutraal

Wat moet je minimaal weten als je je bezighoudt met technologie beleid? Op deze website delen we boeken, videos en concepten die kritisch nadenken over technologie ondersteunen. Deze lijst wordt gebruikt en bijgehouden in de Masterclass Netpolitiek. Je kunt op meerdere manieren door de inhoud snuffelen: Op soort (boek, artikel, video, concept) Op thema (zie de lijst…

Psychometrie en het beïnvloeden van keuzes

De hedendaagse technologie weet niet alleen veel mensen te bereiken, maar ook te beïnvloeden. Dat kan omdat we door de toename van psychologische kennis mensen steeds beter doorzien. Hun beslisprocessen, en hun verlangens en motivaties. Die zijn niet zo rationeel als mensen vaak zelf denken. Het vakgebied waarin deze analyses worden gemaakt is de zogenaamde “Psychometrie”….

Boek: de Platform Samenleving

We zagen de afgelopen jaren een enorme toename van allerlei online platforms waar diensten en producten kunnen worden aangeboden. Je huis verhuur je via AirBNB, een taxi regel je via Uber, enzovoorts. In hun boek De Platform Samenleving onderzoeken José van Dijck, Thomas Poell & Martijn de Waal de invloed van de de deel- en platform economie op vervoer,…

Wetgeving: General Data Protection Regulation

Vanaf 2018 geld in heel Europa een nieuwe privacywet, met verstrekkende gevolgen. Privacy by Design: software en diensten moet vanaf het begin van het onwerp proces privacy vriendelijker ontworpen worden. Unambiguous consent: gebruikers moeten beter uitgelegd worden en begrijpen waar ze ja tegen zeggen. Een bredere omschrijving van wat als persoonsgegeven telt. Automated processing. Dit…

Artikel: Why software is eating the world

Durfinvesteerder Marc Andreessen schreef in 2011 een artikel dat als een lopend vuurtje rond ging. Hij beschreef namelijk pakkend hoe technologie steeds meer invloed uitoefent op alle facetten van ons leven. “My own theory is that we are in the middle of a dramatic and broad technological and economic shift in which software companies are poised…

Concept: Het panopticum

Het panopticon is een soort gevangenis dat tegenwoordig symbool is komen te staan voor de subtiele, ongelijke machtsverhoudingen die in een datamaatschappij ontstaan. Het panopticon is een circelvormig gebouw waarbij de cellen in de buitenwand zitten. In het centrum van de circel zit een bewaker, die vanuit dit plek alle cellen binnen kan kijken. De gevangene heeft…

Boek: Data and Goliath

Bruce Schneier is een grootheid in de wereld van de ICT, beveiliging en cryptografie. Een bekend citaat van zijn hand is: “Surveillance is the business model of the internet”. – Bruce Schneier Zijn kracht zit erin dat hij diepgaande technologische kennis kan relateren aan wetgeving en maatschappelijke vraagstukken. Dat doet hij dan ook in zijn boek…

Concept: Technologisch Determinisme vs Sociaal Constructivisme

Technologie lijkt een van de belangrijkste bronnen van verandering in onze maatschappij. We spreken vaak over de ‘impact’ van technologie op ons leven, en krijgen het gevoel dat we de ontwikkelingen maar amper kunnen bijbenen, en dat het niet tegen te houden is. Maar is dat echt zo? Techniekfilosofen denken al decennia over deze vraag na….

Boek: Addiction by Design

In dit boek beschrijft etnografe Natasha Dow Schull hoe ontwerpers psychologische kennis inzetten om verslavende producten te ontwerpen. De manier waarop casino’s worden ontworpen zijn een bekend voorbeeld. Het boek beschrijft hoe de spelers gevoel voor sociale context, en zelfs hun lichaam, uit het oog verliezen. Game ontwerpers gebruiken deze psychologische inzichten ook steeds vaker, bijvoorbeeld…

Concept: Gartner’s Hype Cycle

Consultancy bedrijf Gartner heeft een handig denkmodel gemaakt waarmee de de invloed van hypes beter kan worden begrepen. Wanneer een nieuwe technologie wordt geïntroduceerd, stellen ze, reageert de maatschappij daar in een voorspelbaar patroon op: Het startpunt. Er ontstaat een nieuwe combinatie van wetenschappelijke kennis, creatieve omstandigheden, juridische mogelijkheden, en een overkoepelend verhaal dat we als een ‘technologie’…

Rapport: Digital Social Innovation

Digitale technologie maakt allerlei nieuwe vormen van samenwerken, kenniscreatie en kennisverspreiding mogelijk. Het ‘digital social innovation’ vakgebied bestaat uit partijen die in hun innovatiepraktijk zich niet alleen op het maken van winst richten, maar zich ook bewust verhouden tot de belangen van de burger en de meerwaarde voor de maatschappij in zijn geheel. “The Triple Helix outlines…

Video: The secret life of machines – The office

Dit is niet canoniek, maar het is wel een mooi praktisch voorbeeld. In de serie “the secret life of machines” laat knutselaar Tim Hunkin zien hoe apparaten werken. Deze aflevering pakt hij het iets breder, en beschrijft hij de geschiedenis van kantoorautomatisering. Het laat mooi de zoektocht naar efficiëntie, en de opkomst van psychologische inzichten in de 20e eeuw….

Concept: Cybernetica

Cybernetica is het idee dat de wereld een complex maar uiteindelijk wel te begrijpen systeem is. De wereld bestaat vanuit dit perspectief eigenlijk uit allemaal kleine op elkaar reagerende systemen. De meest elementaire bouwsteen is de ‘cybernetische feedback loop’. Een thermostaat is hier een perfect voorbeeld van. Een thermostaat bestaat cybernetisch gezien uit drie delen: Iets dat de…

Concept: Privacy als ‘contextuele integriteit’

We hebben als mens de neiging om privacy binair te zien: je hebt het, of je geeft het op. Dit uit zich ook in discussies over online privacy, waarin vaak wordt gesteld: “Als je een Facebook account hebt, moet je niet gaan klagen dat Whatsapp data deelt”. De realiteit is niet zo zwart-wit. Professor Helen Nissenbaum legt…

Concept: Value Sensitive Design

Het klinkt vanzelfsprekend, maar dat is het helaas niet: hoe bouwen we technologie die menselijke waarden respecteert? Het Value Sensitive Design vakgebied is interessant omdat ze een methode biedt voor het omgaan met ethische vraagstukken in design processen. In Nederland speelt de TU Delft een aanjagende rol. WIKIPEDIA WEBSITE van de TU Delft’s afdeling over ethische innovatie…

Video: Where good ideas come from

Hoe komt innovatie tot stand? We hebben vaak het beeld dat een slim individu een briljante ingeving heeft. Maar innovatie is veel meer een traag en communaal proces, zo legt historicus Steven Johnson in deze video uit. Hij stelt dat plekken die de uitwisseling van ideeën mogelijk maken erg belangrijk zijn. Hij bekijk onder andere…

Concept: de Reputatie Economie

Geld is niet ons enige betaalmiddel, we hebben ook ons sociale kapitaal. Een goeie reputatie opent deuren. Waar dit sociale kapitaal zich vroeger ongrijpbaar in de geesten van de mensen die je kende bevond, wordt deze tegenwoordig steeds in digitale systemen gerepresenteerd. Daarbij zijn er twee soorten: De publiek zichtbare. Je reputatiescore op AirBNB of Uber…

Boek: Frank Pasquale – Black Box Society

De black box is een term uit de designwereld die duidt op een (deel van) een systeem waarvan de werking niet inzichtelijk is. In onze data wereld hebben we het dan vaak over algoritmes die op een bepaalde manier data verwerken. Neem bijvoorbeeld de algoritmes van Google en Facebook die bepalen welke resultaten of nieuwtjes je…

Boek: Program or be Programmed

Schrijver Douglas Rushkoff stelt dat de machtsverhouding in de toekomst als volgt samen te vatten is: er zullen mensen zijn die hun wereld programmeren, en de mensen die dat niet kunnen. Hij wijst hiermee op de groeiende digitale kloof, en het belang van kunnen programmeren als vorm van geletterdheid die deze kloof kan helpen overbruggen….

Concept: Surveillance Capitalism

Professor Shoshanna Zuboff schrijft vanuit de Harvard Business School al decennia over de relatie tussen kapitalisme en technologie. Een voorbeeld is haar standaardwerk “In the age of the smart machine: the future of work and power” Recenter onderzoekt ze de nieuwe op data gebaseerde businessmodellen die door het internet mogelijk worden. Deze bouwen op het verzamelen…

Artikel: The Californian Ideology

in 1995 schreven de Marxistische historici Richard Barbrook en Andy Cameron een betoog waarin ze stellen dat er in Silicon Valley een heel bijzondere cultuur is ontstaan. Het is een plek, stellen ze, waar het hippie idealisme uit de jaren 60 zich, nadat hun politieke ambities faalden, heeft getransformeerd. Deze oude-hippies, aldus Cameron, hebben hun…

Concept: Kunstmatige Intelligentie en de Singulariteit

Recent stelden Elon Musk, Bill Gates en Stephen Hawking dat ‘kunstmatige intelligentie’ op de lange termijn een probleem kan gaan worden. Maar in hoeverre zijn machines die een eigen bewustzijn ontwikkelen een risico waar beleidsmakers nu al op moeten anticiperen? Die vraag begint bij: wat bedoelen we met ‘kunstmatige intelligentie’? In dagelijks gebruik doelen de…

Documentaire: Humans Need Not Apply

Automatisering kost banen. Maar maak je geen zorgen, zo leert de geschiedenis ons: we zijn hier keer op keer weer bang voor, maar in de praktijk komen er elke keer weer nieuwe banen voor terug. Maar is dit ook dit keer het geval? Volgens Youtube ster en documentaire maker CGP Grey is er dit keer iets…

Concept: Innovatie

Omdat we in ons dagelijks taalgebruik geen onderscheid maken tussen verschillende soorten ‘innovatie’, kan het al snel een toverwoord worden waar je eigenlijk niet tegen kan zijn. Pas als we genuanceerder kijken, en de verschillende soorten innovatie uiteenrafelen, kunnen we complexere uitspraken doen. Dan vinden we sommige soorten innovatie fijn, maar andere soorten misschien niet….

Concept: Auteursrecht en “the 20th century black hole”

Het doel van het auteursrecht is het balanceren van twee maatschappelijke belangen: het ontwikkelen van nieuwe ideeën enerzijds, en verspreiden en hergebruiken daarvan anderzijds: Als maatschappij hebben we belang bij het kunnen verspreiding en hergebruiken van elkaars ideeën. We bouwen beschaving op elkaars schouders. De creaties van bijvoorbeeld Aristoteles, Shakespeare, en Van Gogh zijn nu…

Manifest: A Declaration of the Independence of Cyberspace

In 1996 schreef John Perry Barlow een enorm invloedrijk en utopisch manifest over wat het internet zou kunnen zijn: een nieuwe plek waar de oude politiek niet meer welkom was: Governments of the Industrial World, you weary giants of flesh and steel, I come from Cyberspace, the new home of Mind. On behalf of the…

Publicatie: Databrokers

De Federal Trade Commission van de Verenigde Staten heeft een onthullend rapport geschreven over de activiteiten van ‘databrokers’. Dit zijn bedrijven die grote hoeveelheden data en inzichten over burgers verzamelen en doorverkopen. Data is zo populair omdat ze de belofte in zich heeft dat je er risico mee kunt beheersen. Databrokers bieden bedrijven en overheden allerlei diensten…

Documentaire: Net of Rights

Deze documentaire gaat in op de vraag hoe beleidsmakers en bestuurders om kunnen gaan met het beheer van het internet. DOCUMENTAIRE Net of Rights

Artikel: Do Artifacts Have Politics?

Een toegankelijke denker die uitlegt dat onze dingen niet neutraal zijn, maar altijd een uiting van de onbewuste morele voorkeuren of bewuste morele doelen van de makers, is Langdon Winner. In zijn artikel “Do artifacts have politics?” beschrijft hij hoe de dingen bepaalde handelingen makkelijker maken, en andere moeilijker. Enkele voorbeelden: Bewust: stedenbouwer Robert Moses bouwde extra lage bruggen…

Boek: Marshall McLuhan – Understanding Media

Er wordt wel gezegd dat Marshall McLuhan de vader is van de mediatheorie. Zijn gevleugelde uitspraken maakten hem in de jaren 60 tot een ware televisiepersoonlijkheid. Een aantal van zijn observaties zijn gemeengoed geworden. The medium is the message. Het is belangrijker dat er uberhaupt TV is, dan wat er op die TV te zien is. De vorm…

Boek: The Global War for Internet Governance

Laura Denardis beschrijft de zoektocht naar nieuwe vormen van bestuur voor de instellingen die verschillende aspecten van het internet beheren. Een voorbeeld is het ICANN, de organisatie achter het DNS systeem, ook wel het ‘telefoonboek van het internet’ genoemd. Eind 2016 deed de Amerikaanse overheid afstand van haar macht over deze organisatie. Lange tijd bestond…

Fake News & Post Truth

Recent is er veel te doen over “nep nieuws”, en de ‘post truth’ maatschappij. Er lijken twee oorzaken aan te wijzen: Schandalen verkopen beter De opkomst van Nep Nieuws lijkt allereerst het gevolg van de dominante van businessmodellen op het internet waar de burger met data betaalt, in plaats van met geld. Wie het lukt om…

Boek: Code is Law

De Amerikaanse professor in de rechten Lawrence Lessig heeft in zijn carrière al een enorme invloed gehad op het denken over auteursrecht, creativiteit, en politiek. In zijn boek Code is Law vergelijkt hij programmeercode met wet teksten. Beide hebben het vermogen om ons handelen te sturen. Wanneer steeds meer aspecten van ons leven door computers wordt ondersteund, zal steeds vaker…

Concept: Dark Patterns

Heb je bij het kopen van een Ryan Air vliegticket wel eens per ongeluk toch een reisverzekering gekocht? De ontwerpers van interfaces maken soms gebruik van “dark patterns”. Dit zijn geniepige psychologische truukjes truukjes, die ingezet worden om je te verwarren, om de tuin te leiden, en ertoe te bewegen acties te ondernemen die tegen je…

Artikel: As We May Think

Tijdens de tweede wereldoorlog werden de peperdure computers vooral door het leger ingezet. Schrijver Vanevar Bush beschreef een wereld waarin computers op allerlei andere, meer creatieve manieren de mens tot dienst konden zijn. Hij stelde eloquent voor om met behulp van computers een kennis maatschappij te bouwen. “Whenever thought, for a time, runs along an…

Boek: Weapons of Math Destruction

Maken algoritmes eerlijkere, neutralere, objectievere keuzes dan mensen? Nee, zo legt Cathy O’Neill uit in haar zeer toegankelijke boek. Wiskundig is het onmogelijk om onze rommelige wereld scherp te categoriseren. Algoritmes werken ‘van binnen’ met kansberekening en waarschijnlijkheid. Daardoor zullen er per definitie foutieve boordelingen ontstaan. Algoritmes worden ontworpen door mensen. Welke data en welke…

Concept: Reverse Technology Assesment

In zijn analyse van de deeleconomie (wat valt eronder, wat niet?) beschrijft Professor Koen Frenken en-passant ook de tactiek die technologiebedrijven gebruiken om politieke en maatschappelijke discussie uit de weg te gaan: Het interessante van deeleconomie is dat het innovatieproces eigenlijk omgekeerd verloopt in vergelijking met andere innovatieprocessen. We hebben hier te maken met wat ik…

Documentaire: Adam Curtis – The Century of the Self

Deze 4-delige documentaire onderzoekt de opkomst van het individualisme in de 20e eeuw. Ze vormt op een aantal manieren een relevante achtergrond voor de analyse van hedendaagse technologie: De geïndividualiseerde maatschappij vormt het decor voor hedendaagse beloftes over het internet als bron van nieuwe collectiviteit. De reclame-industrie had als eerste door dat psychologische inzichten konden worden ingezet om menselijk…