Europese regels rondom Big Data nodig

Bijstandstrekkers die op fraude worden betrapt via hun gedrag op social media, winkels die onze looppatronen volgen en robots die door artificiële intelligentie steeds slimmer worden en ons gedrag monitoren. Door de snelle opkomst van Big Data-technologie maken burgers en diverse organisaties zich zorgen over hun privacy. Wetenschappers lijken die zorgen echter niet te delen, zo constateert Aimee van Wynsberghe, universitair docent ethiek en technologie bij de Universiteit Twente en mededirecteur bij de Foundation for Responsible Robots. Ze pleit voor de komst van Europese regels rondom eigendom, opslag en gebruik van Big Data.

‘Ik hou me alleen bezig met het algoritme’ en ‘mijn technologie is niet te hacken’. Het zijn de meest gegeven antwoorden bij interviews met wetenschappers in deze serie over Big Data. Slechts een enkele wetenschapper maakt zich zorgen. “Heel herkenbaar”, zegt Van Wynsberghe als deze bevindingen aan haar worden voorgelegd. “De meeste wetenschappers zien ethiek en eventuele schending van de privacy niet als hun verantwoordelijkheid. Ze werken aan een algoritme en doen net of er geen relatie is tussen de code die ze schrijven en het uiteindelijke resultaat. Niet verwonderlijk, want als ze erkennen dat er een ethisch probleem is moeten ze er iets aan doen. Ze moeten dan bijsturen en keuzes maken.”

Fraude

Er wordt meestal niet genoeg over de gevolgen van de inzet van technologie nagedacht, aldus de Canadese ethisch-filosofe. Als voorbeeld noemt ze Tay, een automatische Twitterbot van Microsoft. De bot moest automatisch gesprekken aangaan met andere Twitter-gebruikers. De zelflerende software achter het account moest leren van hen en zo steeds slimmer antwoord geven. Direct werd hier misbruik van gemaakt door Tay kwaadwillende informatie toe te sturen, waarna hij racistische taal begon te herhalen, denkend dat dat de geldende mores was.

Het project is inmiddels tijdelijk stopgezet. Van Wynsberghe weet wel wat er fout ging. Microsoft had vooraf niet bekend moeten maken dat het een test met Tay ging doen. “Dat is vragen om problemen. Je kunt zoiets beter onaangekondigd doen of geïsoleerd experimenteren. Mensen gaan namelijk altijd testen hoever ze met zoiets kunnen gaan. Microsoft zegt dat ze niet verantwoordelijk is voor de racistische vragen die aan Tay werden gesteld, maar computerwetenschappers van dit bedrijf hebben de zelflerende algoritmes ontworpen. Zij zijn minstens voor een deel van de ellende moreel aansprakelijk.”

Bij haar werk helpt de onderzoekster collega’s om goed na te denken over eventuele gevolgen van hun werk. Sommige onderzoekers gaan bij het gebruik van Big Data over het randje, constateert ze. Maar dat randje is wel beweeglijk. Het ligt aan het doel. Bij het blootleggen van fraude help je de maatschappij. Maar bij het volgen van burgers in de winkel of winkelstraat, is alleen een commercieel doel gebaat: meer verkopen.

Europese regels

Er zijn Europese regels over datagebruik, maar de dataprotectiewet is verouderd en gebaseerd op een privacy-discussie die achterhaald is. De EU-wet stelt dat er persoonsgegevens verzameld mogen worden, zolang vooraf één bekend doel is bepaald. De data mogen niet voor andere doelen gebruikt worden. Maar bij big-data-technologie bestaat er vaak geen doel. Er worden automatisch en massaal gegevens verzameld en opgeslagen. Ook gaat het bij Big Data vaak niet om personen, maar om gedrag en gedragspatronen.

Ook met onze smartphones wordt veel van ons gedrag geregistreerd, maar met robots delen we meer informatie, meent de ethicus. Ze wijst op Hello Barbie, de robotpop waarbij in 2015 bleek dat hackers haar konden gebruiken om bij gezinnen te spioneren. “Al bij het ontwerp van het algoritme voor deze pop had je moeten nadenken over eventueel misbruik. Honderden kwetsbare kinderen vertellen alles tegen die pop. Het is onverantwoord als je je dat niet realiseert bij het ontwerp.”

Robots die mensen begroeten in winkels, drones die pizza’s bezorgen. Het gaat snel met de ontwikkelingen. “Die pizzarobot weet wanneer jij thuis bent, zeker als je vaak bestelt. Er zijn geen regels. Van wie zijn de data die de robot verzamelt? Van de pizzeria, van jou? Je moet als klant de optie hebben om toestemming voor deze dataverzameling te geven. Transparantie ontbreekt, er is geen opt in of opt out model.”

Slimme robots

Bij Facebook is het duidelijk dat de data het bezit zijn van deze website, Twitter verzamelt alle gegevens in een speciale bibliotheek. Maar bij veel andere projecten is geheel onduidelijk van wie de data zijn. Daar moeten Europese regels over komen, aldus Van Wynsberghe.

“Als maatschappij moeten we beslissen hoe belangrijk we onze privacy vinden. De treinmaatschappij kent al onze patronen, weet hoe laat we dagelijks de trein nemen en waarheen. Wil je dat? En misschien vind je dat niet erg, maar het is vervelender als exact geregistreerd zou worden hoe vaak je naar de apotheek gaat. Bij verschillende soorten verzamelde data, geldt een ander ethisch antwoord, dat maakt het zo lastig.”