Kunstmatig dom

Wanneer stoppen we eens om voorgeprogrammeerde apparaten kunstmatig intelligent te noemen? Zondagavond vond ik in het programma Robo Sapiens een medestander in meneer Hu. Meneer Hu had tien jaar bij Foxconn gewerkt, bekend van de iPhone en van de reeks zelfmoorden van jonge werknemers, waarna er netten rondom de fabriek waren gespannen. ‘Ik vind niet dat robots al heel slim zijn. Ze zijn eigenlijk best wel dom. Ze kunnen geprogrammeerd worden, maar ze hebben geen verstand. Ze kunnen niet denken. Ze doen alleen wat jij zegt.’ Door alle gedoe met de mens, die niet klakkeloos deed wat Foxconn wilde, had Foxconn voor de productie van de iPhone4 op grote schaal robots ingekocht. ‘Guanyin met duizend armen,’ (naar een Chinese godin) noemde Hu de hal waar de iPhone4 helemaal door robotarmen in elkaar werd gezet. Hu was helemaal niet bang dat het dodelijke, repeterende werk dat hij gedaan had, verdween, dan kwam er tenminste interessanter werk voor in de plaats, zo ging het, aldus Hu, ook op het Chinese platteland in de landbouw. In het debuut van Jeroen Brouwers uit 1967 (Joris Ockeloen en het wachten) komt een lift voor waarin het licht aanfloept zodra er een voet over de drempel wordt gezet, evengoed gaat het licht weer uit zodra de mens de lift verlaat. Er is veel gebeurd sinds die lift uit de jaren zestig, vooral de rekenkracht van computers is enorm toegenomen en de ruimte die je nodig hebt om al dat rekenwerk te verrichten en al die opdrachten op te schrijven is steeds kleiner geworden, een minuscuul chipje volstaat vaak. Maar in wezen komt het nog altijd neer op opdrachten in de sfeer ‘als dit-dan dat’. Zelfs aan het herkennen van radarsignalen, zoals Harpy kan en waarmee het Israelische leger oefent, ligt zoiets ten grondslag: als je dit en dit en dit ‘hoort’, niet zijnde dat en dat en dat, bombardeer dan de plek waar die signalen vandaan komen. Maar hoe intelligent is het, dat domweg uitvoeren van een reeks voorgeprogrammeerde opdrachten? Met Harpy – een laagvliegende raket die in een voorgeschreven gebied speurt naar radarsignalen – wordt nog geoefend, al is het systeem al over de hele wereld verkocht. De Israelische Harpy was getraind om onderscheid te maken tussen Israelische radarsignalen en niet-Israelische. Maar Harpy, vertelde een hoogleraar in datzelfde tv-programma, maakt geen onderscheid tussen een militair terrein, een school of een ziekenhuis. Dus komt het aan op de mens. Als de mens niet vooraf nadenkt, als de mens vergeet dat radarsystemen ook op een ziekenhuis kunnen staan, als de mens vergeet dat er misschien ook nog andere dingen in het leven signalen uitzenden die verdacht veel lijken op radarsignalen, als de mens even vergeet dat deze ene Harpy niet moet worden verscheept naar het Amerikaanse leger, maar naar het Noord-Koreaanse, als de mens vergeet dat in de miljoenen programmeerregels van Harpy na verloop van tijd ook wel eens een één en een nul kunnen wegvallen, een regeltje naar beneden bijvoorbeeld, waardoor er hele andere opdrachten ontstaan, of abracadabra, dan moet je niet raar opkijken als die ‘intelligente’ Harpy zomaar opeens veel mensen gaat doden, en scholen, ziekenhuizen en woongebieden in puin legt of zich ‘tegen jou keert’. Harpy, zonder verstand, zonder het vermogen zelf te denken, is in in handen van mensen die niet over alle consequenties hebben nagedacht, in feite niks anders dan een werknemer die zo door zijn baas is gekoeieneerd met domme opdrachten dat die werknemer bij de volgende opdracht om de machineknop ‘NU!’ in te drukken, het gewoon doet, ook al ziet die werknemer op vijftig centimeter een open vat benzine staan. Maar die gekoeieneerde werknemer denkt: jij, met je grote bek en je mooie praatjes, wilt dat de machine nu gaat ratelen, nou, dan kun je het krijgen ook. En dan wordt de machine gestart, dan springt er een vonk en dan vliegt er een loods door de lucht, en die lucht is toevallig de lucht boven Moerdijk, waar ook chemische opslagloodsen onder staan en dan… Niet meer doen dus, te pas en te onpas ‘kunstmatig intelligent’ roepen. Een apparaat, een robot is een hoop ijzer met plastic; de mens – intelligent, minder intelligent, geduldig, ongeduldig, voorzichtig, risicovol – stuurt die hoop ijzer aan.

Voeg toe aan je favorieten: Permalink.

Reacties kunnen niet achtergelaten worden op dit moment.