12 oktober 2017

“Help! de robots gaan ons vernietigen! Nee, ik schrijf dit niet naar aanleiding van een nieuwe Terminatorfilm, maar vanwege een oproep van meer dan honderd tech-ondernemers. Zij schreven een open brief aan de Verenigde Naties om de ontwikkeling van autonome wapensystemen te stoppen uit angst voor deze killerbots. Al eerder schreef NEMO Kennislink uitgebreid over robots en vernietiging.”

Je leest:

De robots vernietigen ons, of niet?

De robots vernietigen ons, of niet?

Niet alleen in spannende sciencefictionfilms wordt de mensheid met uitroeien bedreigd. Ook vooraanstaande wetenschappers, technologie-ondernemers en uitvinders voorspellen dat kunstmatige intelligentie zorgt voor het einde van de mensheid. Moeten we bang worden van deze voorspellingen?

Een robot die zelf beslist de trekker over te halen en dus het lot bepaalt van diegene die het in het vizier heeft. Dat is geen goede zaak, volgens meer dan honderd tech-ondernemers. De ontwikkeling van dit soort autonome wapensystemen, ook wel killerbots, moet stoppen, stellen ze in een open brief aan de Verenigde Naties. De brief werd onder meer ondertekend door Elon Musk (Tesla) en Mustafa Suleyman (Google DeepMind).

Ze vrezen een nieuwe wapenwedloop van robotkillers, hacks en blikken soldaten die niet meer naar mensen luisteren. Hun angst lijkt wel wat op de Terminatorfilms, waarin kunstmatige intelligentie en robots de mensheid willen uitroeien. Door nu te stoppen met autonome wapensystemen, moeten dat soort films fictie blijven en geen werkelijkheid worden. Is die angst terecht? NEMO Kennislinkredacteur Roel van der Heijden schreef daar eerder onderstaand artikel over.

2723935244 f893024672 b
De ‘Terminator’ wil af van de mensheid. Staat dit scenario ons te wachten?

Een hele generatie is opgegroeid met de film Terminator, waarin een superrobot (gespeeld door Arnold Schwarzenegger) door een supercomputer op jacht wordt gestuurd om het verzet van de mensheid te breken. Het doel: de vernietiging van de mens. De film uit 1984 zette het moment dat computers slimmer werden dan de mens op augustus 1997. Inmiddels is het 2015 en lopen er nog steeds geen terminators door onze straten. Moeten we daar wel bang voor zijn?

Het gevaar van kunstmatige intelligentie is niet geweken, althans als je het nieuws een beetje bijhoudt. Prominenten uit de technologiewereld lijken in de rij te staan om ons te waarschuwen voor de gevaren van steeds slimmer wordende computers en robots. De wereldberoemde natuurkundige Stephen Hawking zei begin dit jaar nog dat het creëren van kunstmatige intelligentie het einde van het menselijke ras kan inluiden.

Daarmee deed hij uitspraken van de baas van SpaceX Elon Musk nog eens dunnetjes over. Hij stelde dat kunstmatige intelligentie de grootste bedreiging voor het menselijk ras is. Steve Wozniak, een van de oprichters van Apple, deed er nog een schepje bovenop. “Worden wij straks de huisdieren van supermachines?” vroeg hij zich openlijk af. Tot slot is Microsoft-oprichter Bill Gates minder uitgesproken, maar hij zegt zich op zijn minst ‘zorgen te maken’ over de ontwikkelingen op dit gebied.

Stephen hawking
Natuurkundige Stephen Hawking zegt dat kunstmatige intelligentie het einde van het menselijke ras kan inluiden.
NASA

Maar niet alleen techbazen maken zich zorgen. Ook filosofen zoals Nick Bostrom van de universiteit van Oxford zeggen dat wij als mensheid maar ‘voortrazen’, zonder een plan voor de toekomst. Zonder bewust te zijn van de gevaren die er in technologieën kunnen schuilen.

Oprukkende robots en kunstmatige intelligentie

De vooruitgang van computers in de afgelopen tientallen jaren is duizelingwekkend. Was men in de jaren 40 nog bezig met de ontwikkeling van de allereerste computers die relatief eenvoudige berekeningen konden maken, in 1997 versloeg supercomputer Deep Blue, tot verbijstering van velen, schaakkampioen Garry Kasparov. In 2011 bleken de beste kandidaten van het Amerikaanse tv-spelletje Jeopardy! ook niet meer opgewassen tegen supercomputer Watson.

Slim door brute rekenkracht

Ontzettend hard rekenen, dat is in een notendop hoe de kunstmatige intelligentie ontstaat. Een supercomputer die een groot aantal berekeningen maakt, kan in staat zijn om te reageren op zijn omgeving, verbanden te leggen, een tekst te begrijpen, een plan te maken en te handelen. Kortom, aspecten van intelligentie vertonen.

Alan turing az 1930 as %c3%a9vekben
De wiskunde Alan Turing bedacht een test voor kunstmatige intelligentie.

Maar wanneer we iets écht intelligent kunnen noemen is altijd onderwerp van discussie geweest. De Britse wiskundige Alan Turing bedacht daarom een test. Een computer slaagt voor de Turingtest als tenminste dertig procent van de mensen die met deze computer communiceert denkt dat hij of zij dat met een mens doet.

Er is nog geen computer geslaagd voor de test, en dat gaat waarschijnlijk ook nog wel even duren. De test laat verder in het midden of een systeem bewustzijn bezit of echt intelligent is op het moment dat hij slaagt. Wellicht is zo’n systeem alleen maar erg goed in het imiteren van intelligentie.

Het is niet uit te sluiten dat er een moment komt dat robots vloeiend spreken, grapjes maken en met vlag en wimpel voor de Turingtest slagen. Maar is het dan automatisch een intelligent wezen? En moeten we hem dan rechten geven? Uiteindelijk zal iets pas ‘menselijk’ zijn, als wij besluiten het zo de classificeren.

Ook robots hebben niet stilgestaan. Kijk alleen al naar de ontwikkeling die de robots van Honde sinds de jaren 80 doormaken. Tweebenige robots hadden een kleine dertig jaar geleden nog de grootste moeite om rechtop blijven tijdens het lopen. De nieuwste versie van de ASIMO-robot gaat trappen op, rent en springt op één been, alsof het een mens is.

Honda asimo walking stairs
ASIMO’s voorgangers, met links het oudste model. De robots hadden inspirerende namen als E0 tot E6 (eerste zeven robots) en P1 tot P3 (nummers zes tot acht). Helemaal rechts staat ASIMO.

Daarnaast zijn er talloze projecten en bedrijven die de menselijke intelligentie digitaal na proberen te maken, of ze proberen te doorgronden met behulp van computers. Zullen de grenzen tussen computers en het menselijk brein werkelijk vervagen door bedrijven als Vicarious of Google DeepMind, of het gigantische Europese Human Brain Project? Klopt er straks een robot op onze deur die slimmer is dan degene die open doet?

Geen spookverhalen

Jeroen van den Hoven, professor Ethiek en Technologie van de Technische Universiteit Delft, moet van dát scenario weinig weten. “Zeker, we moeten de ontwikkelingen rondom kunstmatige intelligentie scherp in de gaten houden”, zegt hij. “Maar ik vind de verwachting vaak wel erg overspannen wat dat betreft. Al vanaf de jaren 50 van de vorige eeuw wordt gezegd dat er binnen afzienbare tijd intelligente machines gemaakt konden worden. Dat is tot op heden nog niet gebeurd.”

“Maar nu kan het anders zijn,” gaat hij verder. “Natuurlijk zijn computers veel krachtiger dan toen en het grote verschil is dat er nu veel meer data voorhanden is. Die datarevolutie biedt weer nieuwe kansen.”

Vernietigende robot
Trekken robots er op een dag op uit om de mens te vernietigen?

Maar het heeft volgens Van den Hoven weinig zin om ‘hijgerig achter sciencefiction aan te lopen’. In plaats daarvan pleit hij ervoor om goed te kijken naar wat er momenteel wordt ontwikkeld op het gebied van robotica en kunstmatige intelligentie, en om in te grijpen waar dat nodig is. Dat kan bijvoorbeeld door al in het ontwerp rekening te houden met de gewenste eigenschappen en de begrenzingen die systemen moeten hebben.

Hij noemt de zogenoemde ‘killer robots’ als voorbeeld: autonome gevechtssystemen met dodelijke wapens die door verschillende landen – waaronder de Verenigde Staten – worden ontwikkeld. Ze sporen zelf een doelwit op én schakelen het uit. Denk aan een drone die zelfstandig op pad gaat boven oorlogsgebied en is geprogrammeerd om ‘op eigen houtje’ met de missie door te gaan op het moment dat de communicatieverbinding wegvalt. Het is reëel dat zo’n systeem uiteindelijk zelf zijn doelwit vindt en daarbij mensen doodt. “We moeten echt goed nadenken of we dat willen”, zegt Van den Hoven.

5474151975 5e0a12675d o
In de futuristische film ‘I Robot’ heeft de mens een androgyne robot geschapen die hem met allerlei klussen helpt. Maar er komt een moment dat de mens zijn creatie niet meer onder controle heeft.

Er is een groeiend verzet tegen deze ontwikkeling. De Verenigde Naties hebben zich er tegen uitgesproken en roepen politici op deze te stoppen. Ook Human Rights Watch is een internationale campagne gestart tegen de killer robot. Machines zouden niet zelfstandig mogen beslissen over leven en dood. “Volgens mij begint dat besef bij politici ook langzaam door te dringen”, zegt Van den Hoven. “Onder andere president Obama wil daarom een verbod op deze systemen.”

Voortrazen zonder plan

Naast militaire robots die zijn geprogrammeerd om dood en verderf te zaaien, is het gevaar dat apparaten ‘per ongeluk’ hetzelfde doen misschien nog wel reëler. “In complexe systemen kan er sprake zijn van zogenoemde emergente fenomenen”, zegt Van den Hoven. “Denk aan een vliegtuig waarvan een automatische piloot reageert op foutieve data van een hoogtemeter, en crasht. Of een elektriciteitsnetwerk dat uit balans raakt omdat de computer ‘besluit’ om een bepaalde parameter te optimaliseren. Dit soort fouten zullen we vaker zien naarmate we meer taken uitbesteden aan computers.”

Vindt Van den Hoven ook dat we ‘voortrazen zonder plan’? Op een aantal domeinen wel. “Er zijn nu zoveel diensten – zoals Facebook en Google – waar ontzettend veel mensen gebruik van maken. Dit soort innovaties worden gedreven door de logica van de markt, veel minder door de publieke waarden. In zeker opzicht zijn die techbazen de ‘denkers’ van nu. Als zij vinden dat privacy niet belangrijk is, dan heeft dat een enorme invloed. De filosofie van een ondernemer sijpelt onze maatschappij vrijwel ongemerkt binnen via apps en ict-systemen.”

Volgens Van den Hoven is dit moeilijk te kantelen. “De rest kachelt er eigenlijk maar een beetje achteraan. De politiek snapt dit nauwelijks en heeft te weinig middelen en ondersteuning om dit soort ontwikkelen op de voet te volgen. Toch zouden ze hier veel meer over na moeten denken. Er hangt erg veel vanaf. Als we een ding kunnen leren uit de geschiedenis, dan is het dat we eigenlijk altijd te laat zijn met effectieve maatregelen.”

“We denken dat we ons razendsnel ontwikkelen, maar het kost doorgaans erg veel tijd om onze wetten en denkkaders te veranderen. We hebben elke seconde nodig. En ook nieuwe instituties die we bovenop dergelijke ontwikkelingen zetten om ze in de gaten te houden”, zegt Van den Hoven.

De terminator en nauwelijks van mensen te onderscheiden robots – die we misschien wel rechten willen geven – laten nog wel even op zich wachten. Tot die tijd kunnen we ons beter zorgen maken over de morele waarden in militaire robots. Of slimme systemen die we overal inzetten en die ons per ongeluk kunnen treffen. En als we goed naar de tekentafels en laboratoria blijven kijken dan hoeven we ons wellicht nooit zorgen te maken over de échte terminator.

Dit is het tweede deel van een nieuwe serie over de angst voor robots en automatisering op Kennislink. We nemen doemscenario’s onder de loep, die stellen dat robots ons dommer maken, gevaarlijk zijn, onze banen afpakken en voor de ondergang van de mensheid zorgen. Is deze angst wel terecht? Het eerste deel lees je hier.

Dit artikel is een publicatie van NEMO Kennislink.
© NEMO Kennislink, sommige rechten voorbehouden
Dit artikel publiceerde NEMO Kennislink op 19 mei 2015

Discussieer mee

0

Vragen, opmerkingen of bijdragen over dit artikel of het onderwerp? Neem deel aan de discussie.

LEES EN DRAAG BIJ AAN DE DISCUSSIE