Vat dit blogbericht samen met:
Naarmate AI-systemen steeds gangbaarder worden, zien we ook steeds vaker debatten over de gevaren en ethische vraagstukken die kunstmatige intelligentie met zich meebrengt. Deze debatten, die tegenwoordig alomtegenwoordig zijn in kranten, tijdschriften en op tv-kanalen, brengen de uiteenlopende meningen – van het ene uiterste tot het andere – van technologie-, filosofie- en sociale wetenschappendeskundigen over het onderwerp AI onder de aandacht van het publiek.
Uit onderzoek van de Universiteit van Georgia bleek dat AI-systemen consequent slechter presteerden wanneer ze geconfronteerd werden met voetgangers met een donkere huidskleur. Dit wekt de vrees voor een toekomst waarin een wereld vol zelfrijdende auto's minder veilig is voor mensen met een donkere huidskleur dan voor voetgangers met een lichtere huidskleur.
In december 2019 verwijderde Facebook 600 accounts, met in totaal meer dan 55 miljoen volgers, die gebruik maakten van door kunstmatige intelligentie gegenereerde identiteiten om pro-Trump-verhalen te verspreiden over uiteenlopende onderwerpen met betrekking tot de impeachmentprocedure en verkiezingen.
Aan de andere kant wordt AI al aangekondigd als een redder in nood voor het stroomlijnen van bedrijfsprocessen en toepassingen. Met toepassingen zoals slimme woningen, de volgende generatie auto's, persoonlijke assistenten, openbare bewaking, geavanceerde gezondheidszorg, drones in de logistiek en fraudepreventie in de financiële sector , neemt het gebruik en de acceptatie van de technologie al toe.
Met name in de huidige VUCA-wereld is een robuust AI-framework noodzakelijk om bedrijven te helpen accurate en tijdige beslissingen te nemen en te anticiperen op marktontwikkelingen om verborgen waardeketens bloot te leggen.
Nu kunstmatige intelligentie steeds belangrijker wordt, is het wellicht tijd om na te denken over de ethische aspecten van AI, de dringende uitdagingen en hoe we een positieve uitkomst voor de mensheid kunnen garanderen door met vertrouwen en op de best mogelijke manier een AI-model te ontwikkelen.
Kunstmatige intelligentie, gebaseerd op neurale netwerken en deep learning-modellen, gebruikt tegenwoordig miljoenen parameters die leiden tot ongelooflijk complexe en sterk niet-lineaire interne representaties van de beelden of datasets die eraan worden aangeleverd. Daarom worden ze beschouwd als 'black box'-systemen. De prangende vraag is nu hoe we transparantie kunnen bieden met deze ' black box' -AI.
AI blijkt inderdaad een tweesnijdend zwaard te zijn, waarbij beide kanten veel scherper en minder begrepen zijn dan bij andere technologieën.
1. Toenemende ongelijkheid - Veel experts hebben hun bezorgdheid geuit over de mogelijke massale banenverliezen als gevolg van de opkomst van robots en intelligente systemen, of over de kans dat kapitaal zich in de handen van een kleine groep concentreert. De mogelijkheid dat automatiseringstechnologie duurdere menselijke arbeid in handarbeidsberoepen vervangt, kan leiden tot de noodzaak om werknemers te herplaatsen of om te scholen om ze in andere functies te behouden. In de toekomst zullen we wellicht meer discussies zien over universele loonprogramma's om ervoor te zorgen dat niemand buiten de boot valt bij deze vooruitgang.
2. Wat als de uitkomst niet strookt met de maatschappelijke wetten? Dit komt vaak voor in sciencefictionfilms, waar een op hol geslagen systeem de maatschappelijke wetten overtreedt om zijn gestelde doel te bereiken. Een bekend voorbeeld hiervan is te zien in de populaire tv-serie Rick & Morty, waarin een intelligent systeem van Rick de opdracht krijgt om Bert te beschermen tijdens zijn afwezigheid. In de daaropvolgende gebeurtenissen doodt het systeem een overvaller, politieagenten en gijzelt het uiteindelijk de hele stad, omdat het deze zaken als een bedreiging voor Berts veiligheid beschouwt. Hoewel je zou kunnen stellen dat dit scenario vergezocht is, benadrukt het een belangrijk probleem: het is onmogelijk om ethisch gedrag vast te leggen.
3. Vooroordelen die leiden tot verkeerde beslissingen - AI-systemen zouden een lage foutenmarge moeten hebben. We verwachten immers niet dat ze beïnvloed worden door vermoeidheid, verveling, wrok of menselijke vooroordelen, toch? FOUT. Er zijn een aantal zeer spraakmakende gevallen geweest waarin een AI-systeem vooroordelen heeft geïntroduceerd. Een voorbeeld hiervan is het geavanceerde, door AI aangedreven wervingssysteem van Amazon, dat een voorkeur begon te vertonen voor mannelijke kandidaten boven vrouwelijke. AI-systemen zijn vatbaar voor vooroordelen in hun data, algoritmes of door de menselijke ontwikkelaar en kunnen vooroordelen ontwikkelen ten aanzien van ras, geslacht, religie of etniciteit.
4. Hoe moeten we met AI omgaan? - Er zijn wellicht meer voorbeelden die de vraag oproepen welke wettelijke rechten AI-systemen hebben. Sophia kreeg bijvoorbeeld het Saoedische staatsburgerschap. Hoewel dit voornamelijk een publiciteitsstunt was, roept het een onvermijdelijke en prangende vraag op: wie is verantwoordelijk voor AI-systemen als ze een overtreding begaan? Als machines en AI-systemen inderdaad "autonoom" zijn, kunnen ze dan aansprakelijk worden gesteld voor wangedrag? Moeten robots worden aangeklaagd als ze een rood licht negeren om op tijd bij een noodsituatie te zijn? Hoe kunnen we ze vervolgen? Als een systeem in staat is om zelfstandig upgrades en verbeteringen aan zijn netwerk aan te brengen, zonder tussenkomst van de eigenaar, waarom zou het dan niet erkend en verantwoordelijk gehouden worden voor wat het doet? Hoe kunnen we zo'n systeem afschrikken? Dit zijn vragen die we moeten beantwoorden om een toekomst met verantwoorde AI te garanderen.
Als reactie op de groeiende bezorgdheid over AI heeft de Europese Unie besloten een speciale commissie voor kunstmatige intelligentie in het Europees Parlement op te richten. Het doel van deze commissie is het creëren van een sociaal, juridisch en ethisch kader om de zorgen aan te pakken die voortvloeien uit de toenemende invloed van AI-technologie op menselijke aangelegenheden. Dit houdt in dat er transparante toegang tot informatie moet worden geboden, zodat verantwoord, zorgvuldig en oordeelkundig gebruik van AI kan worden aangemoedigd. Daarnaast is de commissie ook van plan om bijscholings- en educatieve programma's uit te voeren om het publiek bewust te maken van de verschillende aspecten van de technologie.
Nu we een toekomst ingaan waarin AI naar verwachting een rol zal spelen in alle aspecten van ons leven, is het van cruciaal belang om de beschikbare data te analyseren om te bepalen hoe die toekomst eruit zal zien. Ethiek in AI biedt een waarborg voor zinvolle innovatie en een kritische blik.
Bill Gates vergeleek AI-technologie ooit met een kernbom en benadrukte dat AI, zonder de juiste kennis, overweldigend en gevaarlijk voor de samenleving zou kunnen worden. Om te kunnen discussiëren over de vraag of een AI-systeem betrouwbaar is in het nemen van "ethische" beslissingen, moeten we wellicht eerst onze definities van "ethisch" gedrag herzien. Hebben we überhaupt een betrouwbare manier om ethiek te definiëren? Hoe kunnen we een ethische uitkomst inbouwen in logica? Zijn we bereid om systemen autonomie te geven zonder deze kwesties eerst te begrijpen?
Bedrijven zetten geavanceerde kunstmatige intelligentiesystemen in die menselijke cognitieve functies kunnen nabootsen en uitgebreide analyses en automatiseringsfuncties kunnen uitvoeren.
Naarmate AI-systemen slimmer worden, zijn ze de moderne versie van de doos van Pandora geworden, en legitieme zorgen moeten worden aangepakt voordat ze tot een ongewenst scenario leiden.
Voor bedrijven zijn de meest zichtbare uitdagingen met AI privacyschendingen, discriminatie en ongelukken. Als deze problemen niet goed worden aangepakt, kunnen ze grote schade toebrengen aan organisaties, variërend van reputatieschade en omzetverlies tot tegenreacties van regelgevende instanties, strafrechtelijk onderzoek en een afname van het publieke vertrouwen.
Organisaties worstelen met de vraag: hoe kunnen ze ervoor zorgen dat hun algoritmes verantwoord en ethisch handelen?
Voor bedrijven is het van belang zich goed bewust te zijn van deze gevaren voordat ze de algoritmes inzetten.
- Definieer richtlijnen en stel een governancekader in voor de werking van hun AI-systemen.
- Plan hoe deze richtlijnen in de praktijk gebracht kunnen worden.
- Bespreek dit met je team en leg hen het belang uit.
Platformen zoals DataRobot hebben organisaties geholpen aanzienlijke stappen in deze richting te zetten door transparantie te bieden over hoe het AI-model tot zijn voorspellingen is gekomen.
Kunstmatige intelligentiemodellen gedragen zich vaak als 'black box'-modellen; daarom is er een grote behoefte aan transparantere AI-modellen die inzicht bieden in de data, beslissingspunten en de techniek die wordt gebruikt om een AI-aanbeveling te doen. Dit belang neemt toe. Verklaarbare AI richt zich meer op de interpreteerbaarheid van het model, wat cruciaal is voor het optimaliseren van AI en het oplossen van problemen op de best mogelijke manier.
Google heeft een belangrijke stap in deze richting gezet met de aankondiging van Explainable AI , met functies zoals 'What If' en attributiemodellering om bedrijven te helpen AI met vertrouwen in te zetten en het beheer van modellen te stroomlijnen.
Verklaarbare AI, kortweg XAI, zal antwoorden moeten leveren op een aantal prangende vragen, zoals:
1. Waarom gaf het AI-systeem een specifieke voorspelling of nam het een bepaalde beslissing?
2. Waarom heeft het niet voor een andere handelwijze gekozen?
3. Wanneer was het AI-systeem succesvol of juist niet?
4. Wanneer bieden AI-systemen voldoende zekerheid over de beslissing om erop te kunnen vertrouwen?
5. Hoe kan het AI-systeem zijn fouten corrigeren?
Verklaarbare AI, in combinatie met gestroomlijnde governance, goed doordachte beleidsmaatregelen en educatie over ethiek in AI, zal ons als samenleving helpen om de groeiende zorgen over AI het hoofd te bieden. Dit is een essentieel onderdeel van een strategie om tot een aanvaardbare en harmonieuze oplossing te komen voor de gevaren die kunstmatige intelligentietechnologieën vandaag de dag voor de samenleving en het bedrijfsleven vormen.