We lieten je eerder al zien op hoeveel manieren Artificial Intelligence (AI) verweven is in je dagelijks leven. Denk maar aan voorspellende algoritmes, die je aanbevelingen doen voor specifieke producten. Naarmate de behoefte aan AI groeit, neemt de druk op bedrijven om mee te doen toe. En dat kan helaas ook negatieve consequenties hebben.
Het feit dat bedrijven zich gedwongen voelen om zo snel mogelijk met Artificial Intelligence (AI) aan de slag te gaan, heeft mogelijk ook een keerzijde. Snelheid kan namelijk ten koste gaan van betrouwbaarheid en transparantie. In AG Connect worden vier vereisten opgesteld om op een verantwoordelijke manier met AI om te gaan. Het gaat dan onder meer om het uit sluiten van bias en het door AI genomen beslissingen te kunnen verantwoorden. Zie het als een checklist voor bedrijven die verantwoordelijkheid hoger in het vaandel hebben staan dan snelheid.
Lees meer: Deze overwegingen tellen mee bij ethische Artificial Intelligence (AI)
Tekst gaat verder onder de afbeelding.
Helaas zijn er meerdere voorbeelden te noemen van AI-algoritmes die hun voorspellingen deden op basis van vooroordelen en discriminatie. We noemen een AI-systeem, dat zijn voorspellingen deed op basis van gegevens die al in het rechtssysteem zaten. Het systeem was daarmee al bevooroordeeld ten aanzien van Afro-Amerikanen, waardoor de kans dat zij opnieuw zouden worden veroordeeld twee keer zo groot was als bij blanke criminelen. Het is dus belangrijk om onbevooroordeelde AI-systemen te bouwen, waarbij de output vervolgens ook gemonitord en geanalyseerd wordt. De vraag daarbij is of AI iedereen echt gelijk behandeld, ongeacht geslacht, etniciteit, leeftijd, inkomen en meer.
Het is niet alleen belangrijk om de output te monitoren, maar ook exact te weten hoe je AI-systeem tot zijn beslissingen en voorspellingen komt. Eerder kwam bijvoorbeeld aan het licht dat mannelijke klanten van een bank hogere creditcardlimieten aangeboden kregen dan vrouwelijke klanten, zelfs wanneer hun financiële positie en achtergrond hetzelfde waren. Het probleem is dat het vaak enorm troebel is hoe het systeem tot zijn beslissingen komt; de zogenoemde black box. Het is echter cruciaal om te kunnen uitleggen hoe je AI-model werkt, of nog beter: gebruik te maken van transparante en verklaarbare algoritmen.
Een bank informeerde 600.000 klanten over de waarde van bijna verlopen creditcardpunten en hoe ze deze konden inwisselen. Empathie in het kader van Artificial Intelligence betekent dat het systeem ingezet moet worden voor relevante en nuttige beslissingen, waarbij klant centraal staan. Het zou wat ons betreft in ieder geval niet enkel om het pushen van meer verkoopmomenten moeten gaan. Er is zoveel meer mogelijk met AI, ook wanneer je het belang van de klant voorop stelt.
Lees meer: Het ethische belang van uitlegbare Artificial Intelligence
Een chatbot op social media werd ingezet om gespreksbegrip te testen. Mensen konden zelf een gesprekje met de chatbot aangaan. Helaas besloten veel mensen de grenzen op te zoeken. En aangezien de chatbot was gemaakt om te leren van de gesprekken, werden de antwoorden van de chatbot ook steeds ongepaster. Denk aan misogynie en racisme. Dat AI-systemen zichzelf trainen met data is geweldig, maar vraagt dus wel om wat ingebouwde beveiliging. In het geval van de chatbot was het dus verstandig geweest om het systeem eerst te leren welke soorten (re)acties geschikt zijn.
Meer lezen over dit onderwerp?
Misschien vind je deze artikelen ook interessant:
Sensoren op de werkvloer: vragen over ethiek en privacy
Dit waren de belangrijkste AI-ontwikkelingen van 2019
Hybride intelligentie: wanneer mens en AI samenwerken
Artificial Intelligence (AI) en de ethische grondslag
