Wanneer AI het bijna altijd goed heeft - en waarom menselijke controle toch tekortschiet | André van Luijk

Artikel: André van Luijk

Net zoals menselijke intelligentie fouten maakt, maakt kunstmatige intelligentie dat ook. Alleen wordt het steeds lastiger om dat te beoordelen. De resultaten van AI worden steeds indrukwekkender, en de onderbouwing van haar argumenten eveneens. Zolang je zelf meer kennis hebt over een bepaald onderwerp, kun je nog zin van onzin scheiden. Maar zodra je die kennis niet hebt, wordt een samenhangend antwoord al snel voor waarheid aangezien.

Niemand mag worden afgewezen op basis van AI, maar werkt dat op papier ook zo?

Een systeem dat voor 95% correct werkt, oogt indrukwekkend. Maar wie beschermt de 5% die verkeerd wordt beoordeeld? Overheden en toezichthouders zijn zich hiervan bewust en hechten daarom aan het principe van "human in te loop": niemand mag worden afgewezen puur op basis van AI, en bij elke afwijzing moet een mens kunnen beoordelen hoe die tot stand is gekomen. Mooi uitgangspunt - maar op papier lastiger te garanderen dan het lijkt, en dat om twee heel verschillende redenen.

“Is menselijke controle nog wel toereikend als de menselijke ruimte om te controleren steeds kleiner wordt? ”

— André van Luijk

Reden 1: Kwaliteitsproblemen

De eerste reden is een kwaliteitsprobleem. Wat als er bij schaarste aan personeel geen senior beschikbaar is om die beoordeling te doen, maar een medior of zelfs een junior? Dan wordt formeel aan de richtlijn voldaan, terwijl de uitkomst alsnog een foutieve afwijzing kan zijn.

Er is uiteraard veel aandacht voor discriminatie; iedereen kent het voorbeeld van de toeslagenaffaire, en dat scenario willen we koste wat het kost voorkomen. Maar er schuilt een subtieler risico: wat als de AI bijna altijd gelijk heeft, en het vooral mensen of bedrijven zijn die niet in het keurslijf willen of kunnen passen die hierdoor gediscrimineerd worden?

Het probleem is dat zij dit nauwelijks nog kunnen aantonen, juist omdat de profielen inmiddels volledig individueel zijn geworden. Waar discriminatie vroeger nog zichtbaar was aan de hand van groepskenmerken, verdwijnt dat aanknopingspunt zodra ieder profiel uniek is - en daarmee ook het bewijs.

Reden 2: Schaalproblemen

De tweede reden is een schaalprobleem, los van wie er precies beoordeelt. Overheden onderkennen het belang van menselijke controle - een algoritme mag niet bepalend zijn voor belangrijke beslissingen.

Maar wat als AI straks overal doorheen verweven zit, zo sterk zelfs dat je vaak niet eens meer doorhebt dat er sprake is van kunstmatige intelligentie? Dan zijn er simpelweg te weinig mensen om alle AI-signalen te beoordelen, zeker wanneer beslissingen zijn opgebouwd uit talloze kleine deelbeslissingen.

Op het spreekwoordelijke papier lijkt het allemaal goed geregeld, maar in de praktijk is dit uiteindelijk onhoudbaar. Is menselijke controle nog wel toereikend als de menselijke ruimte om te controleren steeds kleiner wordt? De ontwikkeling van AI gaat zo snel dat de menselijke maat onder druk komt te staan. Bovendien kan AI zoveel data verwerken dat dit alleen al de menselijke capaciteit ver te boven gaat.

De menselijke maat komt onder druk te staan

De kans is groot dat we steeds afhankelijker worden, en dat de spreekwoordelijke "human in the loop" verwordt tot een vertragende exercitie - een formaliteit die weinig meer toevoegt. En zelfs wanneer beoordeling wél plaatsvindt, is de vraag of degenen die dit moeten doen de hoeveelheid werk aankunnen, of dat zij daarbij op hun beurt zelf weer AI gaan gebruiken om het behapbaar te houden. Het is vrijwel een gegeven dat die menselijke maat, ondanks alle goede bedoelingen, onder druk komt te staan door een combinatie van kwaliteit en schaal die het principe in de praktijk uitholt.

Op de hoogte blijven van AI? Op 23 september organiseren we een event rond Artificial Intelligence. Ontdek meer over dit event.