Er is meer vraag naar proactieve bescherming van democratie.
Marietje Schaalke - over technologische vernieuwing en invloed op de democratie. (artikel uit De Tijd van Roel Verrycken)
Na tien jaar als Europees Parlementslid trok de Nederlandse liberale naar de Amerikaanse westkust om Silicon Valley lessen te leren over grenzen aan de almacht. Marietje Schaake (43) zit al aan tafel in Lunchroom Saar in Haarlem, als eerste gaste van de ochtend. Het is maandag, 8.30 uur. Ze werkt aan een boek met als werktitel ‘Democracy.com’. Het gaat over de schurende verhouding tussen technologie en democratie, het domein waarin ze de voorbije jaren expertise opbouwde in de politieke en de academische wereld. Ergens in het voorjaar van 2023 moet het uitkomen.
Tien jaar lang had de Nederlandse ex-politica haar biotoop in Brussel. Toen ze daar in 2009 namens de links-liberale partij D66 als een van jongste leden van het Europees Parlement aankwam, was ze net dertig. Meer dan eens werd ze aanzien als stagiaire. Maar ze bouwde snel een ijzersterke reputatie op rond thema’s als cyberveiligheid, privacy en trans-Atlantische relaties. Politico zette haar op 17 in een ranglijst van relevantste leden van het 705-koppige halfrond. The Wall Street Journal portretteerde haar als ‘Europe’s Most Wired Politician’: genetwerkt én digitaal geletterd. Na twee termijnen en een verloren strijd om het lijsttrekkerschap van haar partij hield Schaake de politiek in de zomer van 2019 voor bekeken. Ze ging in op het aanbod om aan de slag te gaan bij Stanford University, het academische hart van Silicon Valley en de wieg van menig techgigant. Aan de Amerikaanse westkust is ze verbonden aan twee instituten: ze is directeur internationaal beleid aan het Cyber Policy Center en onderzoekster aan het Institute for Human Centered AI. Ontwikkeling van artificiële intelligentie met een centrale plek voor de mens dus. Belangrijk, maar maak er geen slogan van, zegt Schaake. ‘Allerlei ingrijpende processen worden geautomatiseerd, en dan wordt vaak geroepen dat er een mens in the loop moet. Maar welke mens dan, met welk mandaat en welk doel? Als er één ding duidelijk is als je een tijd in de politiek hebt rondgelopen, is het wel dat mensen het niet altijd met elkaar eens zijn. Precies daar gaat democratie over. Belangen verschillen en clashen voortdurend. Het hele idee dat de mens kan worden gereduceerd tot a human in relatie tot een machine is een zware versimpeling.’
In de automatisering wordt vaak geroepen dat er een mens ‘in the loop’ moet. Maar welke mens dan? Schaake maakt zo’n vraagstuk concreet door mensen in invloedrijke posities de nodige bagage te geven. ‘Ik probeer te vertalen tussen ingewikkeld wetenschappelijk werk en briefings voor beleidsmakers. We geven ook onderwijs aan politici over AI. Gratis en niet gesponsord door de big tech. Daar kwamen al toppolitici uit de VS en de EU op af. Het zijn sessies in kleine groepen, wat toelaat ook eens te vragen: ‘Leg eens uit, ik snap dit niet’. Want dat is voor hen moeilijk om in het openbaar te doen. Je kan ook niet verwachten dat een politicus perfect weet hoe een auto werkt, maar wel dat er verkeersregels moeten zijn. En omgekeerd: ingenieurs moeten de impact van wat ze maken op de rechtstaat beter begrijpen.’ Toen corona kwam, liet ze haar huurhuis in Californië achter en verhuisde ze terug naar haar geboorteland om de pandemie dichter bij familie uit te zitten. Dat betekende door het tijdverschil ook: midden in de nacht werken. Het afgelopen jaar gaf ze van 1 uur tot 4 uur les via Zoom. ‘Toch pittig. Mijn studenten zijn helaas gereduceerd tot gezichtjes in een vierkantje. Het blijft wel heel interessant: zeker cursussen die passen in levenslang leren en toegankelijk zijn voor iedereen. Er was heel veel interesse voor een vak over technologie en presidentsverkiezingen, met 500 deelnemers tussen 16 en 82 jaar.’ Een serveerster brengt menukaarten. Schaake werpt een snelle blik en kiest voor een kaneelbroodje en gemberthee. ‘Lijkt me heerlijk.’ Ik heb iets meer tijd nodig en ga uiteindelijk voor warm bananenbrood en koffie. Voor ze er ging wonen, zag Schaake Silicon Valley als een plek die wordt gedreven door nieuwsgierigheid naar technologische vernieuwing. ‘Maar eigenlijk draait het veel meer om geld. Bedrijven moeten zo snel mogelijk groeien, mensen willen zo snel mogelijk rijk worden. Op je gympen met je laptop in de garage: dat beeld is gecultiveerd om langer een onschuldig imago vast te houden. Mensen hebben er ook leren leven met enorme inkomensverschillen. Er is een dienende klasse van vooral latino’s die ver weg wonen en uren onderweg zijn om broodjes te smeren. En er is een klasse die alles kan krijgen wat ze wil. Over die verdeling is nu in Europa discussie, maar daar bestaat het al. Het lijkt me niet het voorbeeld dat we moeten nastreven.’ Is zij daar, bekend om haar standpunten voor meer regulering van de techindustrie, nooit onthaald als een of andere Nederlandse communiste? ‘Sommigen hebben vast gedacht: ‘Wacht eens even.’ Ik weet ook dat ik niet overal staande ovaties krijg. Maar het mooie aan een plek als Stanford is dat ze er altijd vertrekken vanuit nieuwsgierigheid. Hun motivatie was: Europa neemt allerlei maatregelen over tech en daar moeten we inzicht in krijgen. Vervolgens staat het iedereen vrij te zeggen wat die daarvan vindt.’
Ingrijpen moet. Had men dan verwacht eindeloos te kunnen doorgaan met het verdienen van miljarden en het ontwrichten van sectoren en publieke belangen? Intussen heeft de publieke opinie techcritici als Schaake grotendeels bijgebeend. In de VS zijn Democraten en Republikeinen het eens over de noodzaak, een zeldzaam gedeeld idee. ‘Er is meer vraag naar proactieve bescherming van democratie. Vijf jaar geleden kreeg ik nog weleens de reactie: ‘Typisch Europees om altijd te naar overheidsinterventie grijpen.’ Grappig, want ik ben liberaal. Alleen vind ik soms wel dat het moet. Had men dan verwacht eindeloos te kunnen doorgaan met het verdienen van miljarden en het ontwrichten van sectoren en publieke belangen?’ Voor Schaake komt het erop neer dat de dominante techbedrijven te veel macht hebben opgestapeld zonder dat een vorm van tegenmacht is meegegroeid. ‘De buitensporige macht is buiten de kaders van de bestaande handhaving getreden’, zegt ze. ‘Wat aan data wordt verzameld en wat door algoritmes wordt besloten en welke gevolgen dat heeft, is voor de meeste mensen niet te achterhalen. Dan weet je niet of je eerlijk behandeld bent of niet. Neem het zoekalgoritme van Google: dat verandert 3.000 keer per jaar. Jouw ervaring van vorige week is anders dan de mijne vandaag, die anders is dan die van dat meisje gisteren. Dat is niet zoals een lading identieke producten die van een band rolt.’ ‘Mensen maken zich zorgen over de macht van Facebook en Amazon en dergelijke. Maar er is een breder probleem bij digitalisering waarbij privébedrijven beslissingen hebben overgenomen die eigenlijk toebehoren aan de democratische staat’, gaat Schaake door. ‘Zij leggen normen op over welke informatie mensen wel of niet te zien krijgen. Of hun algoritmes trekken conclusies over de kans of iemand fraude gaat plegen. Het lijkt me een legitieme discussie om te houden: kan dat? Maar die capaciteit wordt nu vaak uitbesteed aan bedrijven. Daarmee kalft de democratie af, zelfs al is dat niemands expliciete bedoeling. Als we niet onder de motorkap van bedrijven kunnen kijken, moeten we dan geloven dat ze zich netjes gedragen? Dat is toch een naïviteit die nergens geaccepteerd wordt?’ Ondertussen leiden schandalen - zoals de Facebook- onthullingen van klokkenluidster Frances Haugen - vooral af, vindt Schaake. ‘Ze bracht naar buiten wat onderzoekers die ermee bezig zijn al lang wisten. Goed dat ze vertelt wat misgaat bij Facebook, maar het is niet aan haar te zeggen wat we eraan moeten doen. Laat politici kijken naar wetgeving. Laten we de ogen op de bal houden.’ Hetzelfde met de schier eindeloze stoet hoorzittingen van tech-CEO’s voor het Congres in de VS. ‘Hoeveel moeten we er nog houden? De ironie is dat de politici vooral een viraal moment willen scoren dat rondgaat op de sociale media die ze net aan banden willen leggen.’ De roep om regulering vindt Schaake in elk geval voorspelbaar. Zo ging het ook in andere industrieën, zegt ze. ‘Niemand wil dat innovatie wordt ingeperkt, zoals Silicon Valley vaak claimt. Als je naar de geschiedenis kijkt, zie je dat regulering net innovatie bevordert. Regulering is altijd reactief, je kan pas een wet over een windmolen maken als er een windmolen is. Maar sommige principes en vrijheden, die niet van technologie afhankelijk zijn, zijn volgens mij rotsvast. Dat je niet gediscrimineerd mag worden bijvoorbeeld. Alleen verandert technologie de context waarin je gediscrimineerd kan worden. Daarop moeten we toezicht houden.’
Schaake, die er altijd een zaak van heeft gemaakt haar privéleven zo veel mogelijk uit de media te houden, werd geboren in Leiden. Haar moeder was hoogleraar geneeskunde, haar vader consultant. Ze studeerde sociologie en amerikanistiek. Politiek was niet per se een roeping, eerder een opportuniteit die zich aandiende, na onder meer een stage bij het Joegoslaviëtribunaal en een rol als adviseur voor het ministerie van Buitenlandse Zaken. Maar tien jaar in de ‘bubbel’ vond ze genoeg, temeer omdat ze dus had gehoopt een leidersrol in de partij te kunnen opnemen. Vervolgens werd ze belaagd door headhunters van techbedrijven, maar die blokte ze af wegens geen zin om haar ‘oud- collega’s te belobbyen’. ‘Ik heb van in het begin gezegd: ‘Laten we elkaars tijd niet verspillen.’ Ze vonden het raar dat ik niet eens wilde praten, want velen lopen inderdaad over.’ Keert ze ooit terug naar de politiek? ‘Op dit moment is dat niet het plan, maar ik zeg niet dat ik het nooit zal doen. Volksvertegenwoordiger zijn is een mooie taak. Het hangt sterk af van de impact die ik hoop te hebben.’ Was die dan niet groter in het parlement? ‘Moeilijk te zeggen. Ik kan er ook van genieten als ik briljante studenten voor een waardevolle roeping zie gaan omdat ze beseffen dat ze een verschil kunnen maken. Soms heb je achter de schermen ook veel impact.’
Bron: De Tijd 15 januari - Roel Verrycken