Lezing Ethiek voor de IP: AI Maturity Model
samenvatting lezing Joris KrijgerKNVI Lezingenreeks Ethiek van Digitale Systemen
Op maandag 23 september trapten we de KNVI lezingenreeks over Ethiek van Digitale Systemen af met de uitstekend bezochte en goed ontvangen lezing van Joris Krijger. Joris Krijger is sinds 2019 als “Ethics and AI Officer” bij de Volksbank werkzaam en is daarnaast ook promovendus aan de Erasmus Universiteit.
In de lezing stelde hij de volgende drie vragen:
1. Welke impact heeft AI? Welk probleem lost het op? Welk probleem lost het NIET op? Welke NIEUWE problemen introduceert het?
2. Wat staat er op het spel met betrekking tot gelijkheid, rechtvaardigheid en vrijheid?
3. Hoe sturen we? Wie of wat bepaalt wat er ontwikkeld wordt en hoe het gebruikt wordt?
Dat de impact van AI op dit moment al groot is, blijkt uit de cijfers die Joris presenteerde. Van de onderzochte organisaties gebruikt 88% al enige vorm van AI, waarvan 69% generatieve AI. Daardoor ontstaat de verwachting, dat AI onze samenleving op zijn kop zal zetten, terwijl we tegelijk nog weten niet hoe precies.
Om vast te stellen waar AI goed in is en waarin niet, gaf Joris de volgende definitie van wat AI is. AI is een machine-gebaseerd systeem, met een zekere mate van autonomie en aanpasbaarheid, dat gevolgtrekkingen maakt op basis van aangeleverde input. In het laatste deel van de definitie schuilen de beperkingen. AI kan geen nieuwe gegevens verzinnen; het trekt conclusies uit en legt verbanden tussen bestaande gegevens, die het aangeleverd heeft gekregen.
Van nieuwe problemen, die door AI geïntroduceerd werden, gaf Joris enkele voorbeelden. Het kan de bestaande “bias” vergroten, die in een gegevensverzameling aanwezig is. Door het vinden van verbanden in grote hoeveelheden data ontstaat voorts een voor mensen vrijwel niet meer uitlegbare complexiteit. Bij foute uitkomsten is het verder maar de vraag, wie verantwoordelijk gesteld moet worden; de AI machine in ieder geval niet…
Joris beargumenteerde de blijvende inzet van menselijke controle en een deugdelijke ethische governance rondom AI. Daarbij moeten de drie O’s van omgeving, organisatie en ontwerp worden meegenomen.
Tot slot vatte hij zijn antwoorden op de drie kernvragen alsvolgt samen:
-
AI is een voorspelmachine
-
Die de fundamentele waarden van onze samenleving op de proef zal stellen
-
En waarvoor het verantwoord gebruik op drie niveaus moet worden geborgd: technisch, organisatorisch en institutioneel