Je leest:

Ethiek voor robots

Ethiek voor robots

Auteur: | 12 augustus 2004

Met zijn bundel I, Robot zette Isaac Asimov in de jaren 40 voor filosofen de toon om eens stevig na te denken over robots. Met zijn drie wetten bedacht de science-fiction schrijver een manier om de mensheid te behoeden voor kwade daden van de mechanische wezens. Hoe valt de vergelijking met Asimov’s werk en échte robotica uit? De film I, Robot uit 2004 blies de drie wetten nieuw leven in, met het nodige Hollywoodgeweld natuurlijk.

Geheel klassiek opent de film I, Robot met Isaac Asimov’s drie Wetten der Robotica, gedragsregels om zijn robots ‘veilig’ te maken. De Wetten maken het in theorie onmogelijk dat een robot ooit een mens kwaad doet. Asimov’s eerste robotverhaal Robbie stamt uit 1939. Volgens de inmiddels overleden biochemicus was ‘robot-als-dreiging’, een monster dat uiteindelijk zijn schepper probeert te vernietigen, in die tijd een populair sci-fi thema. Met de drie Wetten zette Asimov zich af tegen die trend. De film I, Robot besteedt net te weinig aandacht aan Asimov’s thematiek, maar tovert wel een genoeglijk actiespectakel op het scherm.

Boris Karloff als het Monster van Frankenstein (1931). Het monster werd symbool voor een eenvoudige verhaallijn: wetenschapper schept kunstmatig leven, schepping keert zich tegen schepper, schepper overlijdt.

De drie Wetten der Robotica

Eerste Wet: Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.

Tweede Wet: Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.

Derde Wet: Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

Later voegde Asimov een Nulde Wet toe, die weer belangrijker was dan alle andere: Een robot mag geen schade toebrengen aan de mensheid, of toelaten dat de mensheid schade toegebracht wordt door zijn nalatigheid.

Asimov mocht dan het land hebben gehad aan Frankenstein-aftreksels, hij maakte zich er zelf ook een beetje schuldig aan. De verhalenbundel I, Robot vertelt over robots die, ondanks de ingebakken drie Wetten, mensen kwaad doen. Robotpsychologe Susan Calvin is een van Asimov’s favoriete hoofdpersonen. Via haar vertelt hij over mensen die verkeerde orders geven, robots in uitzonderlijke situaties, allerlei verhalen over robots die per ongeluk toch schade aan mensen berokkenen. De essentie blijft: de gebreken van een robot zijn de verantwoordelijkheid van zijn ontwerpers.

Eén van deze robots wordt verdacht van moord. Wie oh wie? bron: 20th Century Fox

Bad Boy

Met de sfeer van een ongelukkige samenloop van omstandigheden begint de film. Een wetenschapper heeft zelfmoord gepleegd, of is hij vermoord? Het enige in de kamer is een prototype van de nieuwe robotserie NS-5.

Even leek het ouderwets puzzelen te worden met robopsychologe Susan Calvin en Will Smith als een sarcastischer Elijah Bailey ( Caves of Steel en The Naked Sun). Smith’s robothatende personage, Del Spooner, en Bridget Moynahan’s robotfan Susan Calvin hadden elkaar mooi in evenwicht kunnen houden.

Maar dan, net na Calvin’s opmerking over de Wetten die ingebakken zitten in het positronische brein van elke robot, is het bullet time. Zeker als Smith’s All Stars na een ‘auto-ongeluk’ met robot-betrokkenheid onder de olie komen te zitten – “vintage 2004!” – is het hek van de dam en Moeten Alle Robots Neer.

Een hoofdknikje naar The inevitable conflict is de verklaring die we krijgen voor het vreemde robotgedrag. Alleen een robot met een hart (!) en een groepje afgedankte oudere modellen zijn nog te vertrouwen. Alle andere mechanische mannen zijn in een handomdraai geFrankensteind. “Het onontkoombare gevolg van de Drie Wetten,” zegt robotexpert Peter Lanning zelfs. De opstand levert spectaculaire beelden op: achtervolgingsscenes, een huizenhoge reuzenbot, massale straatgevechten en iets dat we alleen maar Robo-Fu kunnen noemen. Wat nou, do no harm?

Hoofdrolspeler en producent Will Smith noemt I, Robot “een intelligente blockbuster”. De kijker krijgt inderdaad wat mee om over na te denken. Is een kind belangrijker dan een volwassene? Is het geluk van één persoon belangrijker dan het overleven van de massa? In de film worden die vragen gelanceerd, maar niet of te gemakzuchtig beantwoord. Niet verwonderlijk. Harde actie met virtuele camera’s en bullet time heeft een grotere afzetmarkt dan ethische vraagstukken. I, Robot presteert weliswaar beter dan Spiderman 2, maar aan de diepgang van eXistenZ kan de film niet tippen.

De nieuwe NS-5 serie krijgt dagelijks softwareupdates van een centrale computer. Achter dit vriendelijke gezicht kan het positronische brein in een handomdraai worden omgeprogrammeerd… bron: 20th Century FoxKlik op de afbeelding voor een grotere versie.

Fact and fiction

Op zichzelf is I, Robot niets meer dan leuke toekomstmuziek, maar inspiratiebron Asimov heeft méér gepresteerd. In zijn verhalen kwam voor het eerst het idee van een compleet onderzoeksgebied naar voren: robotica. Dat is ruwweg het onderzoek naar kunstmatig intelligente machines.

Robots bestaan uit twee delen, een brein en een lichaam. Die twee mogen best gescheiden zijn. Industriële robots en sommige kleine testmodellen worden bestuurd door een computer op afstand. En anders dan in films hoeven robots geen mensachtig lichaam te hebben. Op insekten gebaseerde robots staan stabieler dan mensen, een robot op rupsbanden kan heel ander terrein aan dan een model met twee benen en een robot met drie armen zou wel eens handiger kunnen zijn dan een kopie van een mens.

De robo-vlieg is zuiniger en wendbaarder dan een miniatuurvliegtuig of –helicopter. Deze robot kan makkelijk plekken bereiken die voor mensen ontoegankelijk zijn. GTRI / Stanley Leary

Robotontwerpers lenen vaak ideeën van moeder natuur. Een mooi detail zijn de kunstmatige spierbundels die de NS-5’s in hun bovenbenen hebben. Ze trekken samen zoals echte spieren. Dit soort kunstspieren zijn erg handig voor apparaten die weinig energie mogen verbruiken of klein moeten zijn. Met een klein elektrisch stroompje is zo’n kunstspier van electroaktieve polymeren al aan te sturen.

Achter het stuur

In die aansturing huist het tweede deel van een robot: het brein. Asimov’s robots bevatten positronische hersens, een stukje techno-babble. Positronen zijn volgens de natuurkunde anti-deeltjes van elektronen en als ze elkaar ontmoeten vernietigen ze elkaar. Met zulke kortlevende deeltjes zou je in Asimov’s robotverhalen wel heel snelle reacties kunnen krijgen: snel genoeg om menselijke hersens na te bootsen. Supersnelle computers zullen we in ieder geval nodig hebben voor zo’n prestatie: op afstand besturen heeft namelijk zo zijn nadelen.

Artist’s concept: de Spirit-sonde onderzoekt een interessante rots op het Mars-oppervlak. bron: NASA / JPL

De twee NASA-sondes Spirit en Opportunity hebben dit voorjaar aangetoond dat Mars ooit vloeibaar water kende. Zeeën bedekten onze buurplaneet en twee van onze robots rijden rond op de bodem van die zeeën. Robots? Elke meter die Spirit rijdt is voorbereid door de missieleiding van NASA. Er is een computer aan boord die voorgeprogrammeerde taken uit kan voeren, maar zonder sturing vanaf Aarde is Spirit niets.

Een échte robot zou beslissingen kunnen maken: ga ik om deze rotsen heen, of probeer ik er overheen te klauteren? Is het de moeite wel waard om de andere kant te zien? Al die beslissingen worden voor de twee Mars Rovers genomen door mensen. Kunstmatige intelligentie hebben de twee sondes niet. Zelfstandig kunnen reageren op de omgeving, problemen herkennen en oplossingen verzinnen, tekenen van zelfbewustzijn vertonen, dat zijn de tekenen van intelligentie – kunstmatig of niet.

Turing-test

Alan Turing, godfather van computerwetenschap, voorspelde vijftig jaar geleden dat computers rond de eeuwwisseling slim genoeg zouden zijn om mensen voor de gek te houden: in een chatgesprek met zo’n computer zou je denken dat je met een medemens sprak.

In 2004 is er nog steeds geen software die voor langere tijd een mens kan imiteren. Het programma ELIZA kwam erg dichtbij. Door slim omdraaien van de input kon het mensen laten denken dat ze echt een internetdate aan het regelen waren. De code achter ELIZA is bijzonder simpel en kan geen andere taken verrichten. Een truukje, geen echte intelligentie. De zoektocht naar een zelfbewuste computer duurt nog steeds voort.

De vraag is trouwens, of de Turing-test wel zo zinnig is. Stel je voor dat jij met een heel handboek vol rekentruuks in een kamertje wordt gezet en dan wiskundige raadsels krijgt. Door eindeloos de rekenregels toe te passen kun je misschien een oplossing vinden, maar ben je daardoor een wiskundige? Een stuk software dat door een beperkte regelset zelfbewust of intelligent lijkt, hoeft helemaal niet méér te zijn dan een uitgebreide ALS-DAN-machine. Intelligent is zoiets niet.

Foutje, dame…ELIZA is niet makkelijk te betrappen op domme taalfoutjes zoals deze, maar een echt sprankelende gesprekspartner is ze ook weer niet. De software ontwijkt en speelt telkens de bal terug naar de ‘gebruiker’.

Voorspelbaar

Het probleem met computerprogramma’s als ELIZA is, dat ze helemaal zijn voorgeprogrammeerd door een mens. Een mens kan veranderen, maar ELIZA zal altijd reageren met “Why the uncertain tone?” op mijn ontwijkende opmerking “maybe”. Wat ideaal zou zijn, is een stuk software dat zijn eigen werking bij kan sturen om problemen aan te pakken.

Zoals de bouwers van robot-lichamen spieken, doen AI-experts dat ook soms. De truuk die onze hersens gebruiken om flexibel te reageren is zelf-regulatie. Neuronen in onze hersenen hebben verbindingen met hun buren en reageren als die actief worden. Hoe de onderdelen van dit neurale netwerk op elkaar reageren kan in de loop der tijd veranderen. Levert een bepaalde connectie goede resultaten op, dan wordt hij versterkt. Nutteloze verbindingen verdwijnen tegelijkertijd.

Een neuraal netwerk kan taken leren uit te voeren en wordt daar dan steeds beter in. De laatste jaren wordt flinke vooruitgang geboekt; moest er eerst een mens aan te pas komen om leraar te spelen, huidige netwerken kunnen hun eigen verbindingen aanpassen. En daarmee – ook al is het nog mijlen verwijderd van het complexe bouwwerk in ons eigen hoofd – komen wetenschappers een stapje dichter bij de zelfbewuste computer.

Er is een probleempje met HAL-9000, de AI van een ruimteschipin Arthur C. Clarke’s 2001: A Space Odyssey. Die lastige, onvoorspelbare mensen zijn meer risico dan aanwinst op de missie…raad eens wat er met de bemanning gebeurt? HAL-9000, SkyNet uit de Terminator-films: AI’s krijgen in films wel vaker een veeg uit de Frankenstein-pan.

Krijgt de eerste AI ook de Drie Wetten der Robotica ingeprent? Waarschijnlijk niet. Foolproof als ze op het eerste gezicht mogen lijken, de Wetten zitten vol mazen. Want wat is precies letsel? Hoe definieer je een mens? Hoe erg is het om iemands arm te breken als je hem daarmee uit een brandende auto haalt?

De Drie Wetten veronderstellen een superintelligentie die alle gevolgen van zijn daden kan voorspellen. Zo’n AI moet verstand hebben van de wetgeving, geneeskunde, natuur- en scheikunde, psychologie…en continu zijn omgeving afspeuren naar gevaar voor zijn meesters.

De huidige lijn van AI-onderzoek lijkt zelf-evolutie te zijn. Het komt erop neer dat je een computerprogramma schrijft, dat een computerprogramma gaat schrijven, dat… Na vele generaties zou uit zo’n reeks opeenvolgende programma’s intelligentie kunnen ontstaan. Mocht dat gebeuren, dan moet iemand de nieuw ontwaakte AI wél inlichten over bepaalde omgangsvormen.

Het is onwaarschijnlijk dat een AI meteen de macht krijgt om kwaad aan te richten, maar wie wil het risico lopen? Na I, Robot is maar weer eens duidelijk dat je die kunstbreinen niet kunt vertrouwen…of toch wel? Kijk en oordeel zelf!

I, Robot en Asimov

Dit artikel is een publicatie van NEMO Kennislink.
© NEMO Kennislink, sommige rechten voorbehouden
Dit artikel publiceerde NEMO Kennislink op 12 augustus 2004

Discussieer mee

0

Vragen, opmerkingen of bijdragen over dit artikel of het onderwerp? Neem deel aan de discussie.

NEMO Kennislink nieuwsbrief
Ontvang elke week onze nieuwsbrief met het laatste nieuws uit de wetenschap.