Concept: Kunstmatige Intelligentie en de Singulariteit

Recent stelden Elon Musk, Bill Gates en Stephen Hawking dat ‘kunstmatige intelligentie’ op de lange termijn een probleem kan gaan worden. Maar in hoeverre zijn machines die een eigen bewustzijn ontwikkelen een risico waar beleidsmakers nu al op moeten anticiperen?

Die vraag begint bij: wat bedoelen we met ‘kunstmatige intelligentie’? In dagelijks gebruik doelen de meeste mensen op de hoogste vorm, namelijk ‘artificieële cognitie’, een nieuwe soort bewustzijn. Het is de vorm die we vaak terug zien in Hollywood films.

Maar als we het begrip iets breder pakken, dan zien we kunstmatige intelligentie eigenlijk al overal. De vruchten van het vakgebied zitten al in je zoekresultaten, je slimme auto, en zelfs in je koffiezet apparaat.

Een breder onderscheid zou er zo uit kunnen zien:

  • Dom: een thermostaat.
  • Slimmigheidjes: een thermostaat die in verbinding staat met externe systemen, en daardoor bijvoorbeeld in de winter anders kan werken dan in de zomer.
  • Slim: Hier zien we bijvoorbeeld de opkomst van deep learning, waardoor systemen op nog complexere manieren op regeltjes kunnen reageren. In dit geval werken ze zelf mee aan het instellen van de regels. Zo kan een deep learning systeem zelf leren om een kat te herkennen door eerst 10.000 foto’s van een kat te laten zien. Dit is het huidige summum van wat we kunnen.
  • Intelligent. Dit is een gevaarlijke benaming, dus laten we die niet teveel gebruiken. Systemen zijn immers altijd door iemand opgezet, maar het woord intelligent verbergt dat.
  • Nog weer slimmer.
  • Nu echt heeel slim bedacht.
  • Nog veeel slimmer.
  • Zelfbewustzijn.

Het is sowieso erg gevaarlijk om dit soort menselijke schalen te gebruiken, omdat deze systemen niet met het menselijk denkvermogen te vergelijken zijn. Mensen kunnen extreem goed omgaan met zeer diverse situaties, terwijl de meeste vormen van kunstmatige slimmigheid vooral heel goed zijn op één nauw bepaald vlak. Gezichten herkennen bijvoorbeeld, of veilig rijden. Dat is knap, maar daarbuiten houdt het dan ook meteen op.

Elon Musk en Stephen Hawking

De meeste AI professoren in Nederland zullen terughoudendheid in onze verwachtingen preken. Toch zien we de laatste tijd dat er door mensen als Stephen Hawking en Elon Musk gewaarschuwd wordt voor de opkomst van die hogere vormen. Veel beleidsmakers denken dat ze hierop moeten anticiperen. Dat mag natuurlijk altijd, maar het probleem is dat de focus op de extreme variant ons afleidt van de echte problemen die lagere vormen van kunstmatige intelligentie ons nu al opleveren.

“The real danger, then, is not machines that more intelligent than we are usurping our role as captains of our destinies. The real danger is basically clueless machines being ceded authority far beyond their competence.
Daniel Dennett

Deze lagere vormen, dat zijn de algoritmes die ons beoordelen en waaraan we steeds vaker beslissingen uit handen geven. Zie voor details hierover de pagina over het boek Weapons of Math Destruction.

ARTIKEL Daniel Dennett – the Singularity, an urban legend?

 

De Singularity

Een van de grootste afleidingsmanouvres is het concept van de Singularity.

Computerwetenschapper Ray Kurzweil stelt dat er tegen 2045 kunstmatige intelligentie zal ontstaan die dan in staat zal zijn om een nog betere vorm van kunstmatige intelligentie te ontwikkelen. Die betere AI zal dan ook meteen weer betere AI ontwikkelen, enzovoorts. Er zal een explosie van kunstmatige intelligentie plaatsvinden, waarbij de mens in het stof achterblijft.

Wat de slimme computers vervolgens gaan doen, dat zou moeilijk te voorspellen zijn. Hier komt de naam Singularity vandaan: ze verwijst naar de manier waarop je niet in een zwart gat (een ‘singulariteit’) kunt kijken.

Exponentieel

Een belangrijk argument dat wordt aanhangers van dit geloof aandragen is dat de ontwikkeling van technologie exponentieel sneller zou verlopen. Ze verwijzen veelal naar de ‘wet van Moore’, die stelt dat de hoeveelheid chips die voor X euro op een vierkante chip kan worden geplaatst elke 18 maanden verdubbelt.

Dit argument is om meerdere redenen reductionistisch:

  • Het negeert de complexe aard van maatschappelijke ontwikkeling door slechts één factor te bekijken: de toenemende processorkracht. Dat is om twee redenen problematisch:
    • De Wet van Moore wordt als een natuurwet neergezet, terwijl ze slechts een observatie is. In de praktijk zijn er indicaties dat deze toename hapert.
    • Het grotere probleem is dat deze reductie alle andere factoren die invloed hebben op de snelheid waarmee innovatie plaats kan vinden negeert. Politiek, ideologie, publieke opinie, het milieu, de economische crisis, die worden allemaal opzij geschoven alsof ze geen enkele invloed hebben. Singularity denken is daarmee een schoolvoorbeeld van Technologisch Deterministisch denken.
  • Het singulariteitsdenken is tegelijkertijd blind voor de manieren waarop allerlei menselijke factoren juist enorm van invloed zijn op de totstandkoming van dit toekomstbeeld. We zien allerlei menselijke denkfouten terug:
    • Het tracht een wetmatig verlopende geschiedenisverhaal te benoemen, waarbij alles naar dit moment leidde, en het doortrekken van de lijn een vanzelfsprekend eindstation aanwijst. Dit ‘teleologisch denken’ is een populaire retorische vorm die vaak wordt gebruikt om een verhaal overtuigend te maken. Karl Marx zag de geschiedenis als een logische opeenvolging van stappen die uiteindelijk naar het communistische paradijs zouden leiden. Om dit soort lijnen door de geschiedenis te trekken worden allerlei voorbeelden die niet in het verhaal passen genegeerd. Tegen dit soort ‘teleologisch denken’ wordt door historici, filosofen en sociologen gewaarschuwd: ze tonen vooral hoe we hedendaagse verlangens op de geschiedenis projecteren.
    • De singulariteit bevat allerlei klassieke retorische truukjes die toekomstvoorstellers gebruiken om hun verhalen aantrekkelijk te maken. Zo wijst Rein de Wilde op de manier waarop altijd een revolutie wordt beloofd die toevallig binnen ons mensenleven zal plaatsvinden.
    • Ondanks de rationele vernislaag zijn allerlei paralellen te trekken met religieuze verhalen. Schrijvers als Corry Doctorow spreken dan ook gekscherend over de singulariteit als “The rapture of the Nerds”.

Een uitgebreidere lijst van tegenargumenten is op Wikipedia te vinden.

WIKIPEDIA Technologische Singulariteit

RAPPORT Amerikaanse denktank over de overdreven angst.

BOEK PDF The rapture of the Nerds

BOEK Rein de Wilde – De Voorspellers (uitverkocht)

Serieuze Gevolgen

Het geloof in toekomstdromen als de singularity klinkt onschuldig, maar het heeft serieuze gevolgen. De claim dat deze toekomst onvermijdelijk is, impliceert dat politieke en bestuurlijke regulering van de makers van deze systemen nutteloos zou zijn. Ze lijdt daarmee ook nog eens af van de werkelijke problemen die ‘slimme’ systemen nu al creëren

Zie ook: Weapons of Math Destruction.