Sammanfatta detta blogginlägg med:
Redaktörens anmärkning: I takt med att AI har utvecklats har problemet med förklarbarheten av dess output blivit ganska uppenbart. För att förstå detta har en ny teknik/metod utvecklats som skulle kunna förklara de faktorer som en AI tar hänsyn till, och i vilken utsträckning, för att generera en output. Dessa tekniker eller metoder kallas för förklarbar artificiell intelligens (XAI). I den här bloggen kommer vi att fördjupa oss i XAI, diskutera dess strategier och titta på några av dess tillämpningar.
I varje artikel du läser om AI hittar du garanterat omnämnanden av "brist på förklaringsbarhet" eller "svarta lådor" i nackdelsavsnittet. Trots dess utbredda användning i olika funktioner inom olika branscher finns det ingen förklaring till hur dessa avancerade modeller magiskt når fram till en specifik utdata.
Även för dataforskarna och ingenjörerna som deltog i finjusteringen av modellen är resonemanget att AI är höljt i dunkel. Att inte ha ett definitivt svar kan skapa en känsla av skepticism mot att använda den output som genereras av AI för avgörande beslutsfattande .
Med det växande kravet på ansvarsfull AI måste organisationer också se till att deras resultat kan förklaras för olika intressenter och kunder. Dessutom måste organisationen också ta hand om de regulatoriska krav som kan kräva förklaring av AI-resultatet.
Förklarbarhet gör AI-beslut lätta att förstå för alla Det är här Explainable AI (XAI) kommer in i bilden. Det hjälper till att avmystifiera resonemanget bakom dessa svarta lådor inom AI, vilket ökar förtroendet för deras resultat. Det ger också användarna möjlighet att jämföra effekterna av varje indatapunkt på den slutliga resultatet.
”Förklarbar AI är den uppsättning tekniker/metoder som enkelt kan förklara faktorer som påverkar ett AI-beslut.”
Letar du efter transparenta förutsägelser?
Lär dig hur förklarbara prognoser kan leda till bättre beslut.
Utforska bloggen Innan vi börjar dissekera förklarbar AI måste vi ta upp de två termer som cirkulerar – tolkningsbarhet och förklarbarhet. Hur skiljer de sig åt och varför vi inte får förväxla förmågorna hos förklarbar AI och tolkningsbar AI.
Förklarbarhet hänvisar till hur lätt det är att förstå "varför fattade en viss modell ett specifikt beslut?" . Huvudmålet är att förstå resonemanget bakom resultatet. Detta handlar om "varför" och innebär att förklara modellens beteende och avslöja de faktorer som påverkar resultatet.
Å andra sidan är tolkningsbarhet en förståelse av hur en AI-modell fungerar. Den fokuserar mer på "hur"-sidan av saker och ting, "hur AI:n genererade en utdata". En modell kallas tolkningsbar om den är tillräckligt transparent för att du ska förstå hur den fungerar bara genom att titta på dess parametrar och struktur.
Den här bloggen kommer att fördjupa sig i Förklarbar Artificiell Intelligens, XAI, medan vi lämnar ämnet tolkningsbar AI till en annan gång.
Men varför behöver vi förklaringen till en utdata, om AI:n fungerade som avsett?
Förklarbarhet erbjuder många fördelar. Till att börja med, med förståelsen för orsaken bakom resultatet, får användarna inte känslan av att de litar blint på AI:n. Det ingjuter en känsla av förtroende för det genererade resultatet. Dessutom, när organisationer inkluderar insikter som genererats av AI i sin beslutsprocess, blir det lättare för dem att förklara det för intressenterna, vilket ökar transparensen och förtroendet bland konsumenterna.
"Organisationer som kan bygga kundförtroende genom att använda tekniker som förklarbar AI kan förvänta sig att deras årliga intäkter ökar med 10 % eller mer"
~ McKinsey
Tyvärr har det observerats att förmågan att förklara en AI-modell sker på bekostnad av modellens kapacitet, dvs. ju mer kapabel modellen är, desto svårare är det att förklara dess utdata. Till exempel kan en modell baserad på ett beslutsträd enkelt förklaras genom att helt enkelt spåra de grenar som används för att komma fram till ett beslut. Det kommer dock att vara omöjligt att förklara en prognosmodell baserad på Random Forest.
Baserat på hur lättförklarliga och tolkningsbara AI-modeller är kan delas in i tre kategorier.
Du har säkert hört talas om AI som en "svart låda". Men som vi har sett tidigare är inte alla AI-modeller svåra att förstå. Därför har AI-modeller, baserat på hur enkla de är att förklara, kategoriserats i tre huvudkategorier – vit låda, svart låda och grå låda. Genom att förstå dessa kategorier kan du bättre utnyttja avvägningarna mellan transparens och den kapacitet som dessa AI-modeller har att erbjuda.
Vita lådor – Dessa modeller är lätta att förstå och mycket transparenta. De bryter ner komplexa problem i en serie tydliga steg, vilket gör dem lättare att förstå. Denna transparens sker dock på bekostnad av noggrannhet och kapacitet.
Svarta lådor – Dessa modeller beter sig som om de vore ogenomskinliga lådor. Det är mycket svårt att tolka exakt hur dessa AI-modeller tänker, även om de är mycket noggranna och kan utföra svåra uppgifter. Dessa modeller har vanligtvis ett komplext lager av sammankopplade noder och matematiska funktioner vilket gör dem svåra att förstå. Grå lådor – De ligger någonstans mellan vita lådor och svarta lådor, dvs. de erbjuder begränsad tolkningsbarhet jämfört med vita lådor men är inte lika ogenomskinliga som svarta lådor.
Baserat på hur lättförklarliga och tolkningsbara AI-modeller är kan delas in i tre kategorier.
Vi kan alla vara överens om att förmågan att förstå AI-resonemang redan låter väldigt lukrativ och kraftfull. Men historien slutar inte här. Med förklarbarhet kommer diverse andra fördelar -
1. Förbättrat beslutsfattande – XAI hjälper användare att förstå resonemanget bakom en AI-modells utdata. Denna transparens gör det möjligt för beslutsfattare att kombinera AI-insikter med sin expertis för mer välgrundade beslut.
2. Finjustering/felsökning – Ingenjörer och analytiker kan identifiera förbättringsområden genom att förstå AI-modellens beslutsfattande. De kan till exempel kontrollera om modellen ger lämplig viktning till viktiga faktorer.
3. Identifiera fördomar – XAI kan identifiera de faktorer som orsakar fördomar och hjälpa dig att åtgärda dem med säkerhet.
4. Uppfylla myndighetskrav – Inom vissa funktioner som finans, medicin, rättsväsendet etc. är det obligatoriskt att ange skälen bakom beslutet när man använder AI-insikter.
5. Förtroendeskapande – Med rätt resonemang blir det lättare för intressenter och konsumenter att lita på AI-implementerat beslutsfattande.
Tänk bredare!
Utforska vår RGM-svit för sömlös prognostisering, planering, spårning, påverkansprognoser, simuleringar och analyser.
Utforska nu Metoderna som används av en XAI-modell följer olika tekniker för att förstå AI:s resultat. Valet av denna metod/teknik beror på vilket affärssyfte som ska uppnås. Det beror också på vilken typ av AI-modell det gäller – den generativa AI och prediktiva AI som du har implementerat kommer att kräva olika XAI-modeller. Låt oss titta på några av dessa XAI-tekniker/metoder som kan användas:
1. Enkel lokal analys:
Tänk på det som att ta en närmare titt på en enskild förutsägelse. Genom den här metoden försöker vi förstå "varför" bakom varje beslut. Detta är användbart för
- Snabba kontroller – Snabb översikt över hur modellen nådde sin slutsats.
- Rimlighetskontroller – För att säkerställa att en modells resonemang är rimligt för ett specifikt fall.
Använd teknik - Lokala tolkningsbara modellagnostiska förklaringar (LIME) och partiella beroendediagram (PDP).
2. Djupgående modellanalys:
Med den här metoden flyttar vi vårt fokus från att förstå orsaken bakom en enskild förutsägelse till modellens övergripande mekanik. Den undersöker hur olika indata kan påverka en modells utdata och hur olika funktioner interagerar med varandra. Detta kan användas för
- Förstå funktionernas betydelse - Identifiera de funktioner som har störst inverkan på förutsägelser.
- Kontextualisering av resultat - Att förstå en modells beteende i det bredare sammanhanget av det problem den löser.
- Parameterjustering - Att välja optimal inställning för en modell beroende på hur den reagerar på olika insignaler.
Tekniken som används är Shapley Additive ExPlanation (SHAP).
3. Utveckling av surrogatmodell:
Det handlar om att skapa en enklare och lätttolkbar modell som efterliknar beteendet hos en mer komplex modell. Föreställ dig det som en enklare, nedskalad version av originalmodellen. Detta kan också användas för att förklara komplexa modeller för icke-tekniska intressenter.
Använd teknik - Cross-batch memory (XBM) tekniker; generaliserade additiva modeller, korta beslutsträd, linjära modeller
4. Kontrastiv analys:
Det är en "tänk om"-scenarioanalys som tittar på hur ändring eller borttagning av specifika indatavärden påverkar modellens utdata. Detta är användbart för:
- Förstå effekten av olika insatselement - Identifiera hur specifika värden bidrar till slutresultatet.
- Minimala justeringar - Bestäm de minsta ändringar som behövs i indata för att generera en annan utdata.
Teknik som används - Kontrafaktiska
Förklarbar AI är en av de växande trenderna. I takt med att AI växer i komplexitet och omfattning, ökar även kravet på att förstå hur det fungerar. Förklarbar artificiell intelligens har redan använts i många branscher.
Låt oss utforska fallet Wells Fargo , där de förbättrade transparensen vid avslag på lån med XAI-implementering.
Wells Fargo använde AI för att automatisera processen för låneansökningar. För att få en tydlig förståelse för varför en låneansökan avslogs eller godkändes av deras AI implementerade Wells Fargo en XAI-förklarbar AI-modell som heter LIFE. Den genererar koder som representerar olika orsaker till avslag på lån. Till exempel kan en kod indikera en hög skuldkvot medan en annan indikerar att FICO-poängen är under minimikravet. Deras modell beaktade allt från 40 till 80 av sådana olika variabler när de förklarade avslag. Detta förbättrade transparensen i deras system och hjälpte sökande att förstå faktorerna bakom dessa avslag, vilket potentiellt förbättrade deras chanser att säkra framtida lån.
Låt oss titta på några av dess användningsområden inom följande bransch-
Finansiella tjänster-
- Transparenta och öppna låne- och kreditgodkännandeprocesser förbättrar kundernas förtroende och upplevelse.
- Påskynda beslutsfattandet som kräver bedömning av kreditrisk, förmögenhetsförvaltning och risk för ekonomisk brottslighet.
- Med en lämplig förklaring till beslutet påskyndas lösningen av problem och klagomål.
- Det ökar förtroendet för prissättning, investeringstjänster och produktrekommendationer som genereras av AI.
Hälsovård-
- Långsammare processer som diagnostik och bildbehandling etc. kan utföras snabbare. Samtidigt effektiviseras processen för läkemedelsgodkännande.
– Det bidrar till att förbättra spårbarheten och transparensen i beslutsfattandet för patientvård.
Straffrätt-
- Bearbetning av DNA-analyser, analys av fängelsepopulationer och optimerad brottsprognos vilket kan snabba upp beslutsprocessen
- Upptäck potentiella felaktigheter i träningsdata och algoritmer som kan vara farliga för att fatta kritiska beslut.
Med sin förmåga att förklara utdata från en AI-modell överbryggar förklarbar AI klyftan mellan mänsklig förståelse och AI-beslutsfattande. I takt med att AI-modellerna blir mer komplexa och kapabla kommer principerna för XAI att vara avgörande för utvecklingen av ansvarsfull AI. XAI kommer att kunna säkerställa att AI-modeller inte bara är kapabla utan också begripliga och etiska. Att implementera XAI är inte bara en teknisk nödvändighet; det är också ett moraliskt imperativ.