AI als toezichthouder — van monitoring naar digitale dictatuur | André van Luijk
Artikel: André van Luijk
Inmiddels koppelen sommige grootbanken transacties op je rekening aan je CO2-verbruik, en controleren ze standaard op witwassen, terrorisme en fraude. Op zich lijkt dat een mooie ontwikkeling: het bestrijden van verkeerd gedrag en het inzichtelijk maken van - door de overheid bepaald - destructief gedrag klinkt misschien sympathiek. Vaak hoor je dan ook dat mensen niets te verbergen hebben en dat instanties dus alles mogen zien. Dat lijkt een aantrekkelijke basishouding, maar ze getuigt van grote naïviteit.
Want waar je onschuldig bent totdat het tegendeel is bewezen, is permanente monitoring een enorme aantasting van je persoonlijke vrijheid. Stel je voor: je loopt door de stad en er komt een politieagent naast je lopen die alles wat je doet volgt, bij iedere handeling een notitie maakt in zijn boekje, en vragen stelt zodra je aankopen te veel afwijken van het gemiddelde. Vrijwel iedereen zou dit onacceptabel vinden.
“Volledige transparantie klinkt mooi, maar werkt in de praktijk averechts en vormt een enorme inbreuk op je menszijn. ”
Permanente digitale controle zijn we normaal gaan vinden
Toch gebeurt er digitaal iets vergelijkbaars, zonder dat we het als zodanig herkennen. We zijn geen communistisch of fascistisch land met een sociaal kredietsysteem, waarin je permanent in de gaten wordt gehouden — maar ondertussen accepteren we die permanente controle digitaal wél. En dat terwijl de politiek steeds vaker een mix lijkt te vertonen van groen communisme en links fascisme, waarbij monitoring steeds meer draait om "gewenst" gedrag, en afwijkend gedrag al snel als gevaarlijk wordt bestempeld.
Het patroon is daarbij steeds hetzelfde: heel veel regels beginnen met het beschermen tegen misbruik, en daar kan bijna niemand tegen zijn. Maar diezelfde regels blijken later vaak verbreed te worden, zodat ze ook voor andere doeleinden ingezet kunnen worden. AI zal dit proces versnellen, en zal - bij te weinig tegenkrachten - een steeds verdergaande beperking vormen van onze (financiële) vrijheid.
Wanneer volledige transparantie een inbreuk vormt op je menszijn
De vraag is waar dit toe kan leiden als niemand meer ingrijpt. Volledige transparantie klinkt mooi, maar werkt in de praktijk averechts en vormt een enorme inbreuk op je menszijn. Men wil transparantie graag om fraude, witwassen en misbruik te voorkomen, maar dat betekent wel dat steeds meer partijen inzage krijgen in persoonlijke gegevens. Commerciële partijen, maar ook overheden, zullen de beschikbare gegevens uiteindelijk voor hun eigen doelen gebruiken. Volledige transparantie kan dan ook vrij snel ontaarden in een digitale dictatuur.
We kijken met afschuw naar de Stasi en KGB, maar hoe zit het met ons?
In een land als China wordt alles gecontroleerd, via camera's en monitoring van e-mails, sociale media en transacties. Maar in Europa zijn we, met enige vertraging, ook hard op weg naar diezelfde alomtegenwoordige monitoring. Weliswaar met allerlei waarborgen, maar de grens wordt gestaag verder opgerekt, tot het punt waarop dit tegen bepaalde groepen in de samenleving gaat werken.
We hebben het over de controles van de Stasi of KGB achter het IJzeren Gordijn en kijken met afschuw terug naar wat overheden in die periode aan controle uitoefenden. Maar we hebben niet door dat de controle in ons eigen land inmiddels op onderdelen al verder gaat dan wat destijds achter het IJzeren Gordijn gebruikelijk was.
Volledige transparantie en vrijheid gaan niet samen
Ik denk dat volledige transparantie en vrijheid elkaar niet verdragen, en dat een overheid hier vroeg of laat misbruik van zal maken. Dat kan al beginnen bij een crisis: zodra een overheid noodwetgeving inzet, zal ze de beschikbare data gebruiken om de doelen van die noodsituatie te behalen. Tijdens de coronacrisis zagen we ontwikkelde landen als Australië, Oostenrijk en Canada daar heel ver in gaan. Ook in eigen land bleek wat er mogelijk was om de gestelde doelen te bereiken. En kunstmatige intelligentie gaat dit in de toekomst enorm versnellen.
Die discussie moeten we niet voeren op het moment dat het zover is - we moeten haar nú voeren. Niet alleen over het recht op privacy, maar ook over het recht op anonimiteit en het recht op je eigen data. Je hebt weliswaar het recht om vergeten te worden, maar dat recht kent zoveel uitzonderingen dat het allesbehalve onbeperkt is.
Op de hoogte blijven van AI? Op 23 september organiseren we een event rond Artificial Intelligence. Ontdek meer over dit event.
AI is goed in het herkennen van patronen. In de financiële wereld is het inmiddels gebruikelijk om ongebruikelijke transacties te monitoren. Volgens veel partijen vloeit dit voort uit Europese regelgeving, maar in andere landen geldt op basis van diezelfde regelgeving alleen een verplichting om verdachte transacties te monitoren, niet ongebruikelijke. Nederland heeft - zoals op veel thema's - de lat aanzienlijk hoger gelegd.