Vat dit blogbericht samen met:
Noot van de redactie: Naarmate AI zich verder heeft ontwikkeld, is het probleem van de verklaarbaarheid van de output ervan steeds duidelijker geworden. Om dit te begrijpen, is een nieuwe techniek/methode ontwikkeld die kan verklaren welke factoren een AI in overweging neemt en in welke mate, om een bepaalde output te genereren. Deze technieken of methoden worden Explainable Artificial Intelligence (XAI) genoemd. In deze blog gaan we dieper in op XAI, bespreken we de strategieën ervan en bekijken we een aantal toepassingen.
In elk artikel dat je leest over AI kom je ongetwijfeld termen tegen als "gebrek aan verklaarbaarheid" of "black boxes" in het gedeelte over nadelen. Ondanks het wijdverbreide gebruik ervan in verschillende functies in diverse sectoren, is er geen verklaring voor hoe deze geavanceerde modellen op magische wijze tot een specifiek resultaat komen.
Zelfs voor de datawetenschappers en ingenieurs die betrokken waren bij het verfijnen van het model, is de redenering dat AI in mysterie gehuld is. Het ontbreken van een definitief antwoord kan leiden tot scepsis ten aanzien van het gebruik van de door AI gegenereerde output voor cruciale besluitvorming .
Met de toenemende vraag naar verantwoorde AI moeten organisaties er ook voor zorgen dat hun output aan de verschillende belanghebbenden en klanten kan worden uitgelegd. Bovendien moet de organisatie rekening houden met de wettelijke vereisten die een uitleg van de AI-output kunnen verplichten.
Verklaarbaarheid maakt AI-beslissingen voor iedereen gemakkelijk te begrijpen. Hier komt Explainable AI (XAI) om de hoek kijken. Het helpt de redenering van deze AI-blackboxen te ontrafelen, waardoor het vertrouwen in hun output toeneemt. Het stelt gebruikers ook in staat om de effecten van elk inputdatapunt op de uiteindelijke output te vergelijken.
"Verklaarbare AI is de verzameling technieken/methoden die op een eenvoudige manier de factoren kunnen verklaren die van invloed zijn op een beslissing van een AI."
Op zoek naar transparante voorspellingen?
Leer hoe verklaarbare prognoses tot betere beslissingen kunnen leiden.
Ontdek de blog Voordat we beginnen met de analyse van verklaarbare AI, moeten we eerst de twee veelgebruikte termen 'interpreteerbaarheid' en 'verklaarbaarheid' bespreken. Wat is het verschil tussen deze twee en waarom mogen we de mogelijkheden van verklaarbare AI niet door elkaar halen?
Verklaarbaarheid verwijst naar het gemak waarmee te begrijpen is "waarom heeft een bepaald model een specifieke beslissing genomen?" . Het belangrijkste doel is om de redenering achter de uitkomst te doorgronden. Het gaat hierbij om het "waarom" en omvat het verklaren van het gedrag van het model en het onthullen van de factoren die de uitkomst beïnvloeden.
Interpreteerbaarheid daarentegen is het begrijpen van de interne werking van een AI-model. Het richt zich meer op het 'hoe', 'hoe de AI een output heeft gegenereerd'. Een model wordt interpreteerbaar genoemd als het transparant genoeg is om te begrijpen hoe het functioneert door alleen naar de parameters en structuur te kijken.
In deze blog gaan we dieper in op uitlegbare kunstmatige intelligentie (XAI), terwijl we het onderwerp interpreteerbare AI voor een andere keer bewaren.
Maar waarom hebben we een verklaring nodig voor een bepaalde output, als de AI naar behoren heeft gefunctioneerd?
Verklaarbaarheid biedt veel voordelen. Om te beginnen krijgen gebruikers, door de reden achter de output te begrijpen, niet het gevoel dat ze blindelings op de AI vertrouwen. Het wekt vertrouwen in de gegenereerde output. Bovendien, wanneer organisaties inzichten die door AI zijn gegenereerd in hun besluitvormingsproces opnemen, wordt het voor hen gemakkelijker om deze aan belanghebbenden uit te leggen, wat de transparantie en het vertrouwen bij consumenten vergroot.
"Organisaties die klantvertrouwen kunnen opbouwen door technologieën zoals uitlegbare AI te gebruiken, kunnen een jaarlijkse omzetgroei van 10% of meer verwachten."
~ McKinsey
Helaas is gebleken dat het vermogen om een AI-model te verklaren ten koste gaat van de mogelijkheden van het model zelf; hoe geavanceerder het model, hoe moeilijker het is om de output ervan te verklaren. Een model gebaseerd op een beslissingsboom kan bijvoorbeeld eenvoudig worden verklaard door simpelweg de takken te volgen die tot een beslissing hebben geleid. Het zal echter onmogelijk zijn om een voorspellingsmodel gebaseerd op Random Forest te verklaren.
Op basis van de mate waarin ze gemakkelijk te verklaren en te interpreteren zijn, kunnen AI-modellen in drie categorieën worden ingedeeld.
Je hebt vast wel eens gehoord dat AI een 'black box' wordt genoemd. Zoals we echter eerder hebben gezien, zijn niet alle AI-modellen moeilijk te begrijpen. Daarom zijn AI-modellen, op basis van de mate van uitlegbaarheid, onderverdeeld in drie hoofdcategorieën: white box, black box en grey box. Door deze categorieën te begrijpen, kun je de afweging tussen transparantie en de mogelijkheden die deze AI-modellen bieden, beter benutten.
Witte dozen - Deze modellen zijn gemakkelijk te begrijpen en zeer transparant. Ze splitsen complexe problemen op in een reeks duidelijke stappen, waardoor ze gemakkelijker te begrijpen zijn. Deze transparantie gaat echter ten koste van de nauwkeurigheid en de mogelijkheden.
Zwarte dozen - Deze modellen gedragen zich alsof het ondoorzichtige dozen zijn. Het is erg moeilijk om te interpreteren hoe deze AI-modellen precies denken. Hoewel ze zeer nauwkeurig zijn en moeilijke taken kunnen uitvoeren, hebben deze modellen meestal een complexe laag van onderling verbonden knooppunten en wiskundige functies, waardoor ze moeilijk te begrijpen zijn. Grijze dozen - Deze bevinden zich ergens tussen witte dozen en zwarte dozen in, d.w.z. ze bieden beperktere interpreteerbaarheid in vergelijking met witte dozen, maar zijn niet zo ondoorzichtig als zwarte dozen.
Op basis van de mate waarin ze gemakkelijk te verklaren en te interpreteren zijn, kunnen AI-modellen in drie categorieën worden ingedeeld.
We zijn het er allemaal over eens dat het vermogen om AI-redeneringen te begrijpen al zeer lucratief en krachtig klinkt. Maar daar houdt het verhaal niet op. Verklaarbaarheid brengt diverse andere voordelen met zich mee -
1. Verbeterde besluitvorming - XAI helpt gebruikers de redenering achter de output van een AI-model te begrijpen. Deze transparantie stelt besluitvormers in staat om AI-inzichten te combineren met hun expertise voor een beter onderbouwde besluitvorming.
2. Fijn afstellen/foutopsporing - Ingenieurs en analisten kunnen verbeterpunten identificeren door inzicht te krijgen in de besluitvorming van het AI-model. Ze kunnen bijvoorbeeld controleren of het model de juiste weging toekent aan belangrijke factoren.
3. Vooroordelen identificeren - XAI kan de factoren identificeren die vooroordelen veroorzaken, zodat u deze met zekerheid kunt oplossen.
4. Voldoen aan wettelijke vereisten - In sommige sectoren, zoals financiën, geneeskunde en justitie, is het verplicht om de motivering achter een beslissing te geven wanneer AI-inzichten worden gebruikt.
5. Vertrouwen opbouwen - Met de juiste argumentatie vinden belanghebbenden en consumenten het gemakkelijker om de door AI geïmplementeerde besluitvorming te vertrouwen.
Denk breder!
Ontdek onze RGM-suite voor naadloze prognoses, planning, monitoring, impactvoorspelling, simulaties en analyses.
Ontdek het nu De methoden die een XAI-model gebruikt, volgen verschillende technieken om de output van AI te begrijpen. De keuze voor deze methode/techniek hangt af van het zakelijke doel dat moet worden bereikt, en ook van het type AI-model. Generatieve AI en voorspellende AI die u hebt geïmplementeerd, vereisen verschillende XAI-modellen. Laten we eens kijken naar een paar van deze XAI-technieken/methoden die kunnen worden gebruikt.
1. Eenvoudige lokale analyse:
Zie het als een gedetailleerde analyse van één enkele voorspelling. Met deze methode proberen we de "waarom" achter elke beslissing te begrijpen. Dit is nuttig voor
- Snelle controles - Een snel overzicht van hoe het model tot zijn conclusie is gekomen.
- Aannemelijkheidscontroles - Om te garanderen dat de redenering van een model logisch is voor een specifiek geval.
Gebruikte techniek: Local Interpretable Model Agnostic Explanations (LIME) en Partial Dependence Plots (PDP's).
2. Diepgaande modelanalyse:
Met deze methode verleggen we onze focus van het begrijpen van de reden achter een enkele voorspelling naar de algehele werking van het model. Het onderzoekt hoe verschillende inputs de output van een model kunnen beïnvloeden en hoe verschillende kenmerken met elkaar interageren. Dit kan worden gebruikt voor
- Inzicht in het belang van kenmerken: het identificeren van de kenmerken die de grootste invloed hebben op de voorspelling.
- Resultaten in context plaatsen - Het gedrag van een model begrijpen in de bredere context van het probleem dat het oplost.
- Parameteroptimalisatie - Het kiezen van de optimale instelling voor een model, afhankelijk van hoe het reageert op verschillende invoerwaarden.
De gebruikte techniek is Shapley Additive exPlanation (SHAP).
3. Ontwikkeling van een surrogaatmodel:
Het houdt in dat er een eenvoudiger en makkelijker te interpreteren model wordt gemaakt dat het gedrag van een complexer model nabootst. Zie het als een vereenvoudigde, verkleinde versie van het oorspronkelijke model. Dit kan ook worden gebruikt om complexe modellen uit te leggen aan niet-technische belanghebbenden.
Gebruikte technieken: Cross-batch memory (XBM)-technieken; gegeneraliseerde additieve modellen, korte beslissingsbomen, lineaire modellen.
4. Contrastieve analyse:
Het is een 'wat-als'-scenarioanalyse die onderzoekt hoe het wijzigen of verwijderen van specifieke invoerwaarden de uitvoer van het model beïnvloedt. Dit is nuttig voor:
- Inzicht in de impact van verschillende inputelementen - Vaststellen hoe specifieke waarden bijdragen aan de uiteindelijke output.
- Minimale aanpassingen - Bepaal de kleinste wijzigingen die nodig zijn in de invoergegevens om een andere uitvoer te genereren.
Gebruikte techniek: Counterfactuals
Verklaarbare AI is een van de groeiende trends. Naarmate AI complexer en breder toepasbaar wordt, groeit ook de behoefte aan inzicht in de werking ervan. Verklaarbare kunstmatige intelligentie wordt al in veel sectoren gebruikt.
Laten we eens kijken naar het geval van Wells Fargo , waar ze de transparantie rondom leningafwijzingen hebben verbeterd door de implementatie van XAI.
Wells Fargo gebruikte AI om het aanvraagproces voor leningen te automatiseren. Om een duidelijk beeld te krijgen van de redenen waarom een leningaanvraag door hun AI werd afgewezen of goedgekeurd, implementeerde Wells Fargo een XAI-model genaamd LIFE, dat codes genereert die verschillende redenen voor afwijzing van een lening vertegenwoordigen. Een code kan bijvoorbeeld wijzen op een hoge schuld-inkomstenverhouding, terwijl een andere code aangeeft dat de FICO-score onder de minimale vereiste ligt. Hun model hield rekening met 40 tot 80 van dergelijke variabelen bij het verklaren van de afwijzing. Dit verbeterde de transparantie van hun systeem en hielp aanvragers de factoren achter deze afwijzingen te begrijpen, waardoor hun kansen op het verkrijgen van toekomstige leningen mogelijk verbeterden.
Laten we eens kijken naar enkele toepassingen ervan in de volgende industrie:
Financiële diensten
- Transparante en open procedures voor het goedkeuren van leningen en kredieten vergroten het vertrouwen en de ervaring van de klanten.
- Versnel de besluitvorming die een beoordeling van kredietrisico, vermogensbeheer en risico op financiële criminaliteit vereist.
Met een passende toelichting op de beslissing worden problemen en klachten sneller opgelost.
Het vergroot het vertrouwen in de prijsstelling, beleggingsdiensten en productaanbevelingen die door AI worden gegenereerd.
Gezondheidszorg
- Langzamere processen zoals diagnostiek en beeldverwerking kunnen sneller worden uitgevoerd. Tegelijkertijd wordt het goedkeuringsproces voor geneesmiddelen gestroomlijnd.
Het helpt de traceerbaarheid en transparantie in de besluitvorming rondom patiëntenzorg te verbeteren.
Strafrecht
- De verwerking van DNA-analyses, analyses van de gevangenispopulatie en misdaadvoorspellingen is geoptimaliseerd, wat het besluitvormingsproces kan versnellen.
- Detecteer potentiële vertekeningen in trainingsgegevens en algoritmen die gevaarlijk kunnen zijn voor het nemen van cruciale beslissingen.
Dankzij de mogelijkheid om de output van een AI-model te verklaren, overbrugt uitlegbare AI de kloof tussen menselijk begrip en AI-besluitvorming. Naarmate AI-modellen complexer en capabeler worden, zullen de principes van uitlegbare AI cruciaal zijn voor de ontwikkeling van verantwoorde AI. Uitlegbare AI kan ervoor zorgen dat AI-modellen niet alleen capabel, maar ook begrijpelijk en ethisch verantwoord zijn. De implementatie van uitlegbare AI is niet alleen een technische noodzaak, maar ook een morele plicht.