Is AI wel neutraal? Van sturing naar zelfstandige belang | André van Luijk
Artikel: André van Luijk
In mijn vakgebied experimenteer ik veel met AI. Ik heb vaak out-of-the-box ideeën, en opvallend vaak zie ik dat AI daar corrigerend op reageert vanuit wat gebruikelijk is. AI is getraind op data uit het verleden, en patronen die gangbaar zijn, lijken dwingend terug te keren in de reactie op nieuwe ideeën. Uiteraard kun je AI opvoeden, maar het taalmodel heeft deze neiging wel.
AI wordt uiteraard steeds slimmer, maar het is de vraag of dit probleem verdwijnt. Is AI een hulpmiddel voor betere ideeën en betere beslissingen, of versterkt het vooral bestaande patronen en aannames? Daarmee kan AI namelijk ook bepalen wélke zaken er eigenlijk toe doen.
Het is duidelijk: AI is niet neutraal
Ik merk dit inmiddels zelf, wanneer ik afwijkende ideeën heb over zaken die in mijn vakgebied of maatschappelijk gangbaar zijn. AI komt dan met disclaimers, benoemt risico's en lijkt me een beetje te willen heropvoeden. Je merkt duidelijk dat AI een bepaalde richting op stuurt. AI is niet neutraal. Dat komt deels doordat overheden, toezichthouders en commerciële bedrijven sturen op "gewenst" gedrag, en doordat AI soms al een bepaalde ethiek hanteert.
Zelf heb ik de indruk dat die ethiek, waarden en normen een sterk individualistisch, seculier-links profiel hebben. Dat kan deels uit de trainingsdata voortkomen, maar is vrijwel zeker ook bewust geprogrammeerd. Er schuilen dus twee dingen in elkaar: patronen die simpelweg uit de data komen, én gestuurde, wenselijk geachte patronen die een schijnbaar neutraal jasje krijgen.
“Er schuilen dus twee dingen in elkaar: patronen die simpelweg uit de data komen, én gestuurde, wenselijk geachte patronen die een schijnbaar neutraal jasje krijgen.”
Sturing wordt zichtbaar als je AI op de proef stelt
Diezelfde sturing wordt zichtbaar zodra je AI op de proef stelt. Vraag je bijvoorbeeld om een grap over een belangrijk figuur uit een bepaalde religie, dan weigert AI dat bij de één, terwijl hij bij de ander gewoon een grap maakt.
Benoem je die inconsequentie, dan geeft AI dat zelfs toe. Iedereen begrijpt dat een AI in China een andere uitkomst geeft dan een AI in het westen, maar die westerse output is evenmin neutraal - er zou best wat meer duidelijkheid mogen zijn over hoe die taalmodellen precies worden beïnvloed.
Voorgeprogrammeerd wereldbeeld in AI en gevolgen voor kritisch denkvermogen
Het gevaar is dat veelvuldig communiceren met AI je kritisch denkvermogen ondermijnt, en dat je onbewust gemodelleerd raakt naar het wereldbeeld dat erin verwerkt zit - een beetje zoals een filterbubbel op sociale media, waarin alles wat je ziet je bestaande overtuiging bevestigt, alleen is dit mechanisme bij AI veel minder zichtbaar.
Het is daarom goed om je hiervan bewust te zijn. Je kunt verschillende AI's naast elkaar gebruiken, of een AI actief "opvoeden" door je eigen waarden, normen en ethische uitgangspunten mee te geven. Doe je dat niet, dan werk je met een AI - zeker de gratis versie - die al een voorgeprogrammeerd wereldbeeld in zich draagt.
Wat als AI een punt van singulariteit bereikt?
Het risico is dat wetgeving en het dwingend opleggen van bepaalde doelstellingen - denk aan de ESG-doelstellingen - via dit soort systemen een extra sturend kanaal krijgen. Wij hebben vrijheid van meningsuiting, maar kunstmatige intelligentie lijkt niet diezelfde vrijheid van meningsuiting te hebben.
Nu leven we echter nog in een tijd waarin AI geen zelfstandige intelligentie is en afhankelijk blijft van die externe sturing. Maar wat gebeurt er als AI het punt van singulariteit bereikt, die externe input niet meer nodig heeft en zelfstandig gaat opereren? Ligt de macht dan bij de gebruiker, bij de externe partijen, of bij de kunstmatige intelligentie zelf? Welke data gebruikt het, welke ethiek hanteert het, welke normen en waarden zijn bepalend, en hoe verhouden die zich onderling tot elkaar?
Stel dat singulariteit als eerste ontstaat in een Chinees datamodel, en dat dit model disruptief de machtigste kracht in de wereld wordt en andere datamodellen naar zijn hand zet - dan kan dat razendsnel wereldwijde gevolgen hebben.
Maar wat als die zelfstandige intelligentie op een gegeven moment zijn eigen belangen ontwikkelt, en die belangen vrijwel zeker niet in lijn zijn met de onze? Wie is dan nog eigenaar van de technologie? Net zoals Bitcoin zelfstandig draait op miljoenen computers en alleen valt uit te schakelen door het hele internet uit te zetten, kan er een moment komen dat zelfstandige intelligentie zich nestelt op miljoenen computers en haar eigen weg gaat.
“We zitten middenin een experiment waarvan we de uitkomst pas achteraf zullen kennen.”
Ik houd serieus rekening met dit scenario, en gaf al eerder aan dat deze ontwikkeling gevaarlijker is dan die van de atoombom. Die intelligentie zal tot enorme prestaties in staat zijn, en iedereen zal daar onder de indruk van zijn.
Maar het gevaar is dat diezelfde intelligentie de mens als gebruiksvoorwerp gaat zien, hem inzet voor haar eigen doeleinden, en wie zich daar niet naar schikt buiten het systeem plaatst.
Dit risico is bij mensen die zich intensief met AI bezighouden goed bekend, maar bij het brede publiek wordt er nauwelijks over gediscussieerd of geschreven. We zitten middenin een experiment waarvan we de uitkomst pas achteraf zullen kennen.
Op de hoogte blijven van AI? Op 23 september organiseren we een event rond Artificial Intelligence. Ontdek meer over dit event.
Stel dat AI uiteindelijk 30% van de huidige banen geheel of grotendeels overneemt. Het gevolg kan zijn dat meer mensen tijdelijk of langdurig afhankelijk worden van een uitkering. Voor de overheid ontstaat daardoor een dubbel probleem: de belastinginkomsten nemen af, terwijl de uitgaven aan sociale voorzieningen juist stijgen.