Controleer algoritmen op wettelijkheid

Opiniestuk in Trouw
Marietje

Ethiek is niet sterk genoeg om de enorme impact van kunstmatige intelligentie te beteugelen, betoogt Marietje Schaake.

Justin Koornneef en Maarten van Heems berichten over hun bezoek aan tech-conferentie RISE in Azië (Opinie, 28 juli). Zij schrokken van de Chinese toestanden die ze zagen: apps die massaal data verzamelen en mensen op basis van hun gedrag scores geven. Om dit in Nederland te voorkomen moeten we een maatschappelijk debat aangaan, schrijven ze. Dat lijkt mij een minimaal vereiste, maar er is meer nodig om te voorkomen dat we in een geprivatiseerde Big Brother-samenleving belanden.

Een vaak gehoord medicijn tegen de uitwassen van kunstmatige intelligentie is: meer ethiek. Nu denk ik dat we overal wel wat meer ethiek kunnen gebruiken, maar dat de focus op ethiek ons afleidt van wat er echt op het spel staat: rechtsstatelijkheid. Door op ethiek te focussen komen autoritaire regimes en bedrijven die vooral met winst bezig zijn er te makkelijk vanaf. Ethiek is immers 'zacht', en onderwerp van discussie. Het beschermen van universele mensenrechten, in wetten en rechtsstatelijkheid, is 'harder'. Respect voor de rechtsstaat is waar open en gesloten systemen van elkaar verschillen. Toezichthouders moeten nieuwe kennis en bevoegdheden krijgen om de rechtsstaat online te handhaven. Anti-discriminatiemeldpunten, privacy-waakhonden en de Autoriteit Consument en Markt moeten toezicht kunnen houden op algoritmen die de selecties in onze levens bepalen. Selecteren en rangschikken computercodes informatie met respect voor mededingingsregels? Wordt er door softwarecodes gediscrimineerd? Wanneer komt een samenzweringstheorie of geweldsoproep bovenaan in een zoekopdracht? Er zijn steeds meer vragen over de impact van grote technologiebedrijven op onze democratie.

Oplossen

Alleen op basis van transparantie en verantwoording kunnen we fundamentele principes van onze democratie online bewaken en toetsen. Facebook-baas Mark Zuckerberg zei in het Amerikaanse Congres dat kunstmatige intelligentie alle problemen met online-haatzaaien zal oplossen. Maar zonder checks en balances eindigen we dan met een geprivatiseerde Big Brother die beslist wat we wel of niet online mogen zeggen. Zo werkt het Chinese top-downmodel ook. Kritiek op de president, zelfs als daarvoor de metafoor van Winnie de Poeh wordt gebruikt, is binnen enkele minuten gecensureerd. Dit is geen ver-van-ons-bedshow in China, maar een vraagstuk dat wereldwijd moet worden beantwoord. Totdat we algoritmen kunnen controleren weten we niet of er te weinig of te veel offline wordt gehaald, en op basis van welke criteria of wetten. Dat zou iedereen die geeft om vrije meningsuiting of vrije informatievergaring zorgen moeten baren. Een maatschappelijk debat is pas het beginpunt. Niet alleen bedrijven schakelen algoritmen in. Recht op voorlopige vrijlating uit gevangenissen, de kans op het terugbetalen van een lening, 'goed gedrag': ook in open samenlevingen kunnen door algoritmen gestuurde keuzes grote gevolgen hebben. Zeker als de overheid die inzet. In New York City besliste de gemeenteraad vorig jaar daarom dat mensen het recht moeten hebben om in beroep te gaan tegen geautomatiseerde beslissingen waar zij nadeel van ondervinden. Dat is een terechte stap die navolging verdient in heel Europa, en dus ook in Nederland.

Prioriteit

Er is dus veel meer nodig dan alleen een maatschappelijk debat, of ethische overwegingen, om de impact van technologie te kaderen. Het toepassen van wetten online zoals die offline gelden moet de belangrijkste prioriteit zijn. De mate waarin wij er in de open samenlevingen over de hele wereld in slagen om de rechtsstaat ook online te laten bestaan, zal moeten zorgen dat we hier niet vervallen in Chinese toestanden. De rechtsstaat online is waar ik me al jaren hard voor maak in het Europees Parlement.