Van vertrouwen naar controle: hoe AI de relatie tussen burger en overheid verandert | André van Luijk
Artikel: André van Luijk
Onze samenleving was lange tijd gebaseerd op vertrouwen. Men vertrouwde elkaar, tot het tegendeel was bewezen. Filosofisch ging men uit van het adagium dat de mens geneigd is tot het kwade, maar dat er gelukkig nog veel goed ging. Nu lijkt het eerder omgekeerd: het adagium is dat de mens geneigd is tot het goede, maar dat we toch alles reguleren en controleren tot in detail. Men wantrouwt elkaar, tot het tegendeel is bewezen.
Hoe wantrouwen doorwerkt in systemen
Nu denk je misschien: dat valt toch wel mee? Maar dit is al verder doorgedrongen dan veel mensen denken. Financiële instellingen, notarissen en accountants hanteren allerlei controles die vroeger niet gebruikelijk waren. Of het nu gaat om vermogen, bedrijfsstructuren of de herkomst van eigen middelen: bij alles wat maar een beetje afwijkt van de middelmaat moet je aantonen waar het vandaan komt, hoe je eraan komt, en steeds vaker ook wat je ermee van plan bent.
Tijdens de coronacrisis moest je aantonen dat je gezond was voordat je aan de maatschappij mocht deelnemen. Veel mensen denken dat die tijd voorbij is en blijven er alleen over doorpraten, maar het mechanisme is veel breder. Je moet aantonen dat je bevoegd bent voor je werk, steeds vaker dat je permanent actueel blijft in je vakgebied, je moet een Verklaring Omtrent het Gedrag aanleveren om aan te tonen dat je eerlijk bent, je moet aantonen welk energielabel je woning heeft — het is een mechanisme dat tot in de haarvaten van de samenleving doorwerkt. Elke regel lijkt op zichzelf logisch, maar samen vormen ze een soort gestold wantrouwen. En de stapeling van al die regels maakt het geheel haast onwerkbaar.
“Elke regel lijkt op zichzelf logisch, maar samen vormen ze een soort gestold wantrouwen. En de stapeling van al die regels maakt het geheel haast onwerkbaar.”
Bij alles wat afwijkt moet je zelf onderbouwen dat je onschuldig bent, in plaats van dat je onschuldig bent totdat het tegendeel is bewezen. Steeds vaker verschuiven systemen naar vooraf controleren, analyseren en risicobeoordeling. En nu AI een kantelpunt bereikt, kunnen partijen die als poortwachter fungeren voor overheden en toezichthouders dit op ongekende schaal versnellen en verder finetunen. Zo ontstaat een verschuiving van een controle op het moment van de transactie naar permanente controle.
Dit gebeurt al bij banken, waar afwijkende transacties worden gemonitord: staat je huurpand leeg, dan ziet de bank al op maandbasis dat het pand niet verhuurd wordt. Waar dit vroeger alleen gebeurde op het moment van het afsluiten van een hypotheek of bij een renteverlenging, en een aantal jaar geleden al jaarlijks moest worden aangeleverd, gebeurt dit bij de grootbanken nu al op doorlopende basis. Waar een ondernemer bewust risico neemt en soms kiest voor leegstand om te verbouwen, kan een bank dit inmiddels veel sneller signaleren en daarop acteren - of dit soort meta-analyses doorgeven aan een toezichthouder.
Sluipenderwijs verliezen we zo een belangrijk fundament van de samenleving: vertrouwen verdwijnt, en permanente controle wordt het uitgangspunt - of is dat in veel gevallen al.
Op de hoogte blijven van AI? Op 23 september organiseren we een event rond Artificial Intelligence. Ontdek meer over dit event.
AI is goed in het herkennen van patronen. In de financiële wereld is het inmiddels gebruikelijk om ongebruikelijke transacties te monitoren. Volgens veel partijen vloeit dit voort uit Europese regelgeving, maar in andere landen geldt op basis van diezelfde regelgeving alleen een verplichting om verdachte transacties te monitoren, niet ongebruikelijke. Nederland heeft - zoals op veel thema's - de lat aanzienlijk hoger gelegd.