Artikel: André van Luijk
Online is van veel mensen enorm veel data te vinden. Heb je tegenwoordig een sollicitant voor je, dan is het bijna irritant als je nauwelijks iets over diegene kunt vinden. Toch mag je, vanuit de AVG-privacywetgeving, niet zomaar alle informatie gebruiken die online beschikbaar is - iemand heeft immers ook een privéleven. Alleen houdt AI daar weinig tot geen rekening mee, en digitale informatie blijft vaak zeer lang online rondzweven.
Digitale profielen gaan ver
Daarnaast bouwen veel partijen digitale profielen op. En zelfs als je op een of andere manier probeert je informatie te beperken, verdwijnen die profielen niet zomaar uit de systemen. AI is bovendien in staat om met al die losse stukjes informatie een samenhangend profiel te construeren.
Het is dan ook goed om na te denken over welke informatie je deelt. Een aantal jaar geleden liet ik mijn gedrag op X (voorheen Twitter) eens analyseren. Zelf profileer ik me daar vooral als financial, maar AI concludeerde een andere volgorde van interesses: eerst christen, dan IT, en pas als derde financieel. Terwijl ik me toch echt primair als financial presenteer, bleek mijn gedrag blijkbaar voldoende om een heel ander profiel op te bouwen dan hoe ik mezelf zag. Dat was voor mij een eyeopener over hoe ver die profielen kunnen gaan.
“Die digitale sporen die je achterlaat, kunnen jarenlang doorwerken in je werkelijke leven: in hoe bedrijven, personen, overheden en toezichthouders je classificeren en benaderen.”
Digitale sporen werken jarenlang door in je werkelijke leven
Je kunt dus denken dat je jezelf op een bepaalde manier profileert, maar het werkelijke profiel dat van je gemaakt wordt, kan soms verrassend goed aansluiten - of juist flink afwijken van wie je daadwerkelijk bent. Die digitale sporen die je achterlaat, kunnen jarenlang doorwerken in je werkelijke leven: in hoe bedrijven, personen, overheden en toezichthouders je classificeren en benaderen.
De vraag is dan ook: hoeveel van ons leven willen we digitaal blootgeven, en wat betekent dit voor onze privacy en onze digitale identiteit?
Op de hoogte blijven van AI? Op 23 september organiseren we een event rond Artificial Intelligence. Ontdek meer over dit event.
Kan dat al? Zijn er bedrijven die hier fors op verdienen, of is het vooral Big Tech dat aan de haal gaat met het grote geld? In dit artikel zoom ik in op wat er nu al gebeurt, want het gaat echt hard. Zes procent van de bedrijven verdient er inmiddels grof aan. De rest betaalt, vaak zonder het te beseffen, mee aan hun voorsprong.
Deze maand trad een belangrijk deel van de EU AI Act in werking. Dit betekent dat je vanaf nu moet melden als je een AI gebruikt die met mensen praat, zoals een chatbot. Ook moet je duidelijk maken als inhoud, zoals tekst of afbeeldingen, door AI is gemaakt.
Stel dat AI uiteindelijk 30% van de huidige banen geheel of grotendeels overneemt. Het gevolg kan zijn dat meer mensen tijdelijk of langdurig afhankelijk worden van een uitkering. Voor de overheid ontstaat daardoor een dubbel probleem: de belastinginkomsten nemen af, terwijl de uitgaven aan sociale voorzieningen juist stijgen.
AI gaat ervoor zorgen dat er minder verzekeraars nodig zijn, maar ook financieel adviseurs, accountants en tal van andere specialisten zullen deels of volledig vervangen kunnen worden door kunstmatige intelligentie.
AI gaat ervoor zorgen dat er minder verzekeraars nodig zijn, maar ook financieel adviseurs, accountants en tal van andere specialisten zullen deels of volledig vervangen kunnen worden door kunstmatige intelligentie.
Online is van veel mensen enorm veel data te vinden. Daarnaast bouwen veel partijen digitale profielen op. En zelfs als je op een of andere manier probeert je informatie te beperken, verdwijnen die profielen niet zomaar uit de systemen. AI is bovendien in staat om met al die losse stukjes informatie een samenhangend profiel te construeren.
AI is getraind op data uit het verleden, en patronen die gangbaar zijn, lijken dwingend terug te keren in de reactie op nieuwe ideeën. Je merkt duidelijk dat AI een bepaalde richting op stuurt. AI is niet neutraal. Dat komt deels doordat overheden, toezichthouders en commerciële bedrijven sturen op "gewenst" gedrag, en doordat AI soms al een bepaalde ethiek hanteert.
Een ondernemer neemt risico's, denkt anders en zoekt nieuwe wegen. Maar wat gebeurt er als financiële instellingen in het contact met die ondernemer steeds meer beslissingen baseren op modellen en risicoprofielen? Met AI kun je doelgroepen steeds verder verfijnen, tot je uiteindelijk een persoonlijk profiel maakt per persoon of per onderneming. Dat is niet zonder risico.
Een ondernemer neemt risico's, denkt anders en zoekt nieuwe wegen. Maar wat gebeurt er als financiële instellingen in het contact met die ondernemer steeds meer beslissingen baseren op modellen en risicoprofielen? Met AI kun je doelgroepen steeds verder verfijnen, tot je uiteindelijk een persoonlijk profiel maakt per persoon of per onderneming. Dat is niet zonder risico.
AI is goed in het herkennen van patronen. In de financiële wereld is het inmiddels gebruikelijk om ongebruikelijke transacties te monitoren. Volgens veel partijen vloeit dit voort uit Europese regelgeving, maar in andere landen geldt op basis van diezelfde regelgeving alleen een verplichting om verdachte transacties te monitoren, niet ongebruikelijke. Nederland heeft - zoals op veel thema's - de lat aanzienlijk hoger gelegd.
We zijn geen communistisch of fascistisch land met een sociaal kredietsysteem, waarin je permanent in de gaten wordt gehouden — maar ondertussen accepteren we die permanente controle digitaal wél.
Onze samenleving was lange tijd gebaseerd op vertrouwen. Men vertrouwde elkaar, tot het tegendeel was bewezen. Nu lijkt het eerder omgekeerd: het adagium is dat de mens geneigd is tot het goede, maar dat we toch alles reguleren en controleren tot in detail. Men wantrouwt elkaar, tot het tegendeel is bewezen.
Kunstmatige intelligentie bestaat al heel lang, maar breekt nu pas echt door. Als je je erin verdiept, zie je voorstanders die een nieuw digitaal paradijs voor zich zien. Maar wat als het net andersom gaat?
Wie AI goed inzet, kan sneller werken, beter analyseren, slimmer ondernemen en processen automatiseren die vroeger veel tijd kostten. GRYP-partner Leon Tindemans neemt ons daarom mee in de praktische en zinvolle toepassingen van AI.
Maar daarmee is het verhaal niet compleet. In het tweede deel staat Mark van Buuren stil bij de keerzijde.