De ondernemer tegenover het algoritme | André van Luijk
Artikel: André van Luijk
Een ondernemer neemt risico's, denkt anders en zoekt nieuwe wegen. Maar wat gebeurt er als financiële instellingen in het contact met die ondernemer steeds meer beslissingen baseren op modellen en risicoprofielen? Met AI kun je doelgroepen steeds verder verfijnen, tot je uiteindelijk een persoonlijk profiel maakt per persoon of per onderneming.
Gevolgen van ‘AI-profilering’ voor bedrijven
Dat is niet zonder risico, want banken hebben van oudsher de neiging om systemen asymmetrisch in te zetten: keuzes die in hun voordeel zijn, gaan gemakkelijk, keuzes die in hun nadeel zijn, worden lastig gemaakt. Wil je bijvoorbeeld als bedrijf een rekening openen en wordt jouw sector als minder wenselijk gezien, dan wordt dat bijzonder ingewikkeld. Onmogelijk is het niet, maar het wordt je wel onmogelijk gemáákt — en je moet nog dankbaar zijn als je uiteindelijk een rekening toegewezen krijgt.
“Zit je eenmaal in het verkeerde algoritme, dan kunnen noodzakelijke stappen - een krediet, het openen van een rekening, het afsluiten van een verzekering - onnodig lastig worden.”
Diezelfde asymmetrie zie je terug in de informatie die je als ondernemer moet delen. Je denkt vaak dat het slim is om open kaart te spelen, maar wat voor jou verstandig is, wordt door de bank nogal eens als bedreiging gezien. Hetzelfde geldt bij verzekeraars, accountants en notarissen: je moet precies vertellen wat nodig is, niet te weinig en niet te veel. Vertel je te weinig, dan ben je verdacht; vertel je te veel, dan willen ze je mogelijk niet.
De impact van een (verkeerd)algoritme
In theorie zou AI hier juist maatwerk kunnen leveren, maar ik verwacht dat commerciële partijen vooral gaan uitsluiten wat voor hen niet wenselijk is. Een aantal jaar geleden was er al ophef over het feit dat mensen die een zorgverzekering wilden afsluiten, maar mogelijk als een hoger risico golden, bepaalde reclames niet te zien kregen, terwijl mensen met een laag risico die reclames wél zagen. De kritiek daarop was terecht, maar het is slechts een symptoom van iets dat steeds verfijnder en steeds minder zichtbaar kan worden. Zit je eenmaal in het verkeerde algoritme, dan kunnen noodzakelijke stappen - een krediet, het openen van een rekening, het afsluiten van een verzekering - onnodig lastig worden.
Het MKB heeft geen bescherming
Dit raakt aan een dieperliggende scheefheid: waar consumenten een hoge mate van bescherming genieten, hebben bedrijven geen vergelijkbare bescherming. Het MKB wordt geacht een professionele tegenpartij te zijn van de grote instellingen, maar in werkelijkheid is dit een ongelijkwaardige verhouding waarover meer maatschappelijke discussie gevoerd moet worden - zeker omdat vrijwel alles inmiddels digitaal verloopt en financiële instellingen daarmee, net als water, stroom en internet, een soort nutsvoorziening zijn geworden. Alleen ontbreekt in de wetgeving nog de noodzakelijke verankering om de toegang tot die nutsvoorziening ook echt te waarborgen.
Op de hoogte blijven van AI? Op 23 september organiseren we een event rond Artificial Intelligence. Ontdek meer over dit event.
Een ondernemer neemt risico's, denkt anders en zoekt nieuwe wegen. Maar wat gebeurt er als financiële instellingen in het contact met die ondernemer steeds meer beslissingen baseren op modellen en risicoprofielen? Met AI kun je doelgroepen steeds verder verfijnen, tot je uiteindelijk een persoonlijk profiel maakt per persoon of per onderneming. Dat is niet zonder risico.