Fassen Sie diesen Blogbeitrag wie folgt zusammen:
Anmerkung der Redaktion: Mit den Fortschritten im Bereich der KI ist die Problematik der Nachvollziehbarkeit ihrer Ergebnisse immer deutlicher geworden. Um dies zu verstehen, wurde eine neue Technik bzw. Methode entwickelt, die erklären kann, welche Faktoren eine KI bei der Generierung eines Ergebnisses berücksichtigt und in welchem Umfang. Diese Techniken bzw. Methoden werden als erklärbare künstliche Intelligenz (XAI) bezeichnet. In diesem Blogbeitrag werden wir uns eingehender mit XAI befassen, ihre Strategien erörtern und einige ihrer Anwendungsgebiete betrachten.
In jedem Artikel über KI stößt man im Abschnitt über die Nachteile auf die Begriffe „fehlende Erklärbarkeit“ oder „Black Boxes“. Trotz ihrer weitverbreiteten Anwendung in verschiedenen Funktionen und Branchen gibt es keine Erklärung dafür, wie diese hochentwickelten Modelle auf magische Weise zu einem bestimmten Ergebnis gelangen.
Selbst für die Datenwissenschaftler und Ingenieure, die an der Feinabstimmung des Modells beteiligt waren, bleibt die Funktionsweise von KI ein Rätsel. Das Fehlen eindeutiger Antworten kann Skepsis gegenüber der Verwendung von KI-generierten Ergebnissen für wichtige Entscheidungen hervorrufen.
Angesichts der steigenden Anforderungen an verantwortungsvolle KI müssen Unternehmen sicherstellen, dass ihre Ergebnisse den verschiedenen Interessengruppen und Kunden verständlich sind. Darüber hinaus müssen sie auch die regulatorischen Vorgaben beachten, die eine Erläuterung der KI-Ergebnisse vorschreiben können.
Erklärbarkeit macht KI-Entscheidungen für alle leicht verständlich. Hier kommt erklärbare KI (XAI) ins Spiel. Sie trägt dazu bei, die Funktionsweise dieser KI-Systeme transparenter zu machen und so das Vertrauen in deren Ergebnisse zu stärken. Zudem ermöglicht sie Nutzern, die Auswirkungen jedes einzelnen Eingabedatenpunkts auf das Endergebnis zu vergleichen.
„Erklärbare KI ist die Gesamtheit der Techniken/Methoden, die Faktoren, die eine KI-Entscheidung beeinflussen, leicht erklären können.“
Sie suchen nach transparenten Prognosen?
Erfahren Sie, wie erklärbare Prognosen zu besseren Entscheidungen führen können.
Blog entdecken Bevor wir uns mit der Analyse erklärbarer KI befassen, müssen wir die beiden häufig verwendeten Begriffe Interpretierbarkeit und Erklärbarkeit klären. Worin unterscheiden sie sich, und warum dürfen wir die Fähigkeiten erklärbarer KI und interpretierbarer KI nicht verwechseln?
Erklärbarkeit bezeichnet die Leichtigkeit, mit der sich nachvollziehen lässt , warum ein bestimmtes Modell eine bestimmte Entscheidung getroffen hat . Das Hauptziel besteht darin, die Gründe für das Ergebnis zu verstehen. Es geht um das „Warum“ und beinhaltet die Erklärung des Modellverhaltens sowie die Offenlegung der Faktoren, die das Ergebnis beeinflussen.
Interpretierbarkeit hingegen bezeichnet das Verständnis der Funktionsweise eines KI-Modells. Sie konzentriert sich stärker auf das „Wie“, also darauf, wie die KI ein bestimmtes Ergebnis generiert hat. Ein Modell gilt als interpretierbar, wenn es so transparent ist, dass seine Funktionsweise allein anhand seiner Parameter und Struktur verständlich wird.
In diesem Blogbeitrag werden wir uns mit erklärbarer künstlicher Intelligenz (XAI) befassen, während wir das Thema interpretierbare KI auf einen späteren Zeitpunkt verschieben.
Aber warum benötigen wir eine Erklärung für ein Ergebnis, wenn die KI wie beabsichtigt funktioniert hat?
Erklärbarkeit bietet viele Vorteile. Zum einen entsteht durch das Verständnis der Gründe für die Ergebnisse nicht das Gefühl, der KI blind vertrauen zu müssen. Dies stärkt das Vertrauen in die generierten Ergebnisse. Wenn Unternehmen zudem KI-generierte Erkenntnisse in ihre Entscheidungsprozesse einbeziehen, können sie diese den Stakeholdern leichter erläutern, was die Transparenz und das Vertrauen der Verbraucher erhöht.
„Unternehmen, die durch den Einsatz von Technologien wie erklärbarer KI Kundenvertrauen aufbauen können, können mit einem jährlichen Umsatzwachstum von 10 % oder mehr rechnen.“
~ McKinsey
Leider hat sich gezeigt, dass die Erklärbarkeit eines KI-Modells oft mit dessen Leistungsfähigkeit einhergeht. Je leistungsfähiger das Modell ist, desto schwieriger lässt sich sein Ergebnis erklären. Beispielsweise kann ein auf einem Entscheidungsbaum basierendes Modell leicht erklärt werden, indem man die einzelnen Zweige nachverfolgt, die zu einer Entscheidung geführt haben. Ein auf Random Forest basierendes Prognosemodell hingegen lässt sich nicht erklären.
Anhand ihrer Erklärbarkeit und Interpretierbarkeit lassen sich KI-Modelle in drei Kategorien einteilen.
Sie haben sicher schon einmal gehört, dass KI als „Black Box“ bezeichnet wird. Wie wir jedoch bereits gesehen haben, sind nicht alle KI-Modelle schwer verständlich. Daher werden KI-Modelle, basierend auf ihrer Erklärbarkeit, in drei Hauptkategorien eingeteilt: White Box, Black Box und Grey Box. Durch das Verständnis dieser Kategorien können Sie die Abwägungen zwischen Transparenz und Leistungsfähigkeit dieser KI-Modelle besser nutzen.
Weiße Boxen – Diese Modelle sind leicht verständlich und sehr transparent. Sie zerlegen komplexe Probleme in eine Reihe klarer Schritte und erleichtern so deren Verständnis. Diese Transparenz geht jedoch auf Kosten der Genauigkeit und der Leistungsfähigkeit.
Black Boxes – Diese Modelle verhalten sich wie undurchsichtige Boxen. Es ist sehr schwierig zu interpretieren, wie genau diese KI-Modelle denken, obwohl sie hochpräzise sind und komplexe Aufgaben bewältigen können. Diese Modelle verfügen in der Regel über eine komplexe Schicht aus miteinander verbundenen Knoten und mathematischen Funktionen, was ihr Verständnis erschwert. Grey Boxes – Sie liegen irgendwo zwischen White Boxes und Black Boxes, d. h. sie bieten im Vergleich zu White Boxes eine eingeschränkte Interpretierbarkeit, sind aber nicht so undurchsichtig wie Black Boxes.
Anhand ihrer Erklärbarkeit und Interpretierbarkeit lassen sich KI-Modelle in drei Kategorien einteilen.
Wir sind uns wohl alle einig, dass die Fähigkeit, KI-Logik zu verstehen, bereits jetzt sehr vielversprechend und wirkungsvoll klingt. Doch die Geschichte ist damit noch nicht zu Ende. Mit der Erklärbarkeit ergeben sich diverse weitere Vorteile –
1. Verbesserte Entscheidungsfindung – XAI hilft Nutzern, die Logik hinter den Ergebnissen eines KI-Modells zu verstehen. Diese Transparenz ermöglicht es Entscheidungsträgern, KI-Erkenntnisse mit ihrem Fachwissen zu kombinieren und so fundiertere Entscheidungen zu treffen.
2. Feinabstimmung/Debugging – Ingenieure und Analysten können Verbesserungspotenziale identifizieren, indem sie die Entscheidungsfindung des KI-Modells verstehen. Sie können beispielsweise überprüfen, ob das Modell wichtigen Faktoren die angemessene Gewichtung zuweist.
3. Identifizierung von Verzerrungen – XAI kann die Faktoren identifizieren, die Verzerrungen verursachen, und Ihnen so helfen, diese sicher zu beheben.
4. Einhaltung regulatorischer Anforderungen – In einigen Bereichen wie Finanzen, Medizin, Justiz usw. ist es zwingend erforderlich, bei der Verwendung von KI-Erkenntnissen die Gründe für die Entscheidung anzugeben.
5. Vertrauensbildung – Mit stichhaltigen Argumenten fällt es Stakeholdern und Konsumenten leichter, der KI-gestützten Entscheidungsfindung zu vertrauen.
Denken Sie umfassender!
Entdecken Sie unsere RGM-Suite für nahtlose Prognosen, Planung, Nachverfolgung, Wirkungsvorhersage, Simulationen und Analysen.
Jetzt entdecken Die von einem XAI-Modell verwendeten Methoden folgen unterschiedlichen Techniken, um die Ergebnisse der KI zu interpretieren. Die Wahl dieser Methode hängt vom jeweiligen Geschäftszweck und vom Typ des KI-Modells ab – generative und prädiktive KI erfordern unterschiedliche XAI-Modelle. Im Folgenden werden einige dieser möglichen XAI-Techniken/Methoden vorgestellt:
1. Einfache lokale Analyse:
Man kann es sich so vorstellen, als würde man eine einzelne Vorhersage genauer betrachten. Mit dieser Methode versuchen wir, das „Warum“ hinter jeder Entscheidung zu verstehen. Dies ist nützlich für
- Kurzchecks – Schneller Überblick darüber, wie das Modell zu seinem Ergebnis gelangte.
- Plausibilitätsprüfungen – Um sicherzustellen, dass die Argumentation eines Modells für einen konkreten Fall sinnvoll ist.
Verwendete Technik: Lokale interpretierbare modellagnostische Erklärungen (LIME) und partielle Abhängigkeitsdiagramme (PDPs).
2. Tiefgehende Modellanalyse:
Mit dieser Methode verlagern wir unseren Fokus vom Verständnis der Gründe für eine einzelne Vorhersage hin zu den Gesamtmechanismen des Modells. Sie untersucht, wie sich unterschiedliche Eingaben auf die Modellausgabe auswirken und wie verschiedene Merkmale miteinander interagieren. Dies kann verwendet werden für
- Die Bedeutung von Merkmalen verstehen – Die Merkmale identifizieren, die den größten Einfluss auf die Vorhersage haben.
- Ergebnisse im Kontext verstehen – Das Verhalten eines Modells im breiteren Kontext des Problems verstehen, das es löst.
- Parameteroptimierung – Die Wahl der optimalen Einstellungen für ein Modell in Abhängigkeit davon, wie es auf unterschiedliche Eingangsgrößen reagiert.
Die verwendete Technik ist die Shapley Additive Explanation (SHAP).
3. Entwicklung eines Ersatzmodells:
Dabei wird ein einfacheres und leicht verständliches Modell erstellt, das das Verhalten eines komplexeren Modells nachbildet. Man kann es sich wie eine vereinfachte, verkleinerte Version des Originalmodells vorstellen. Es eignet sich auch, um komplexe Modelle Nicht-Technikern zu erklären.
Verwendete Techniken: Cross-Batch-Memory-Verfahren (XBM); generalisierte additive Modelle, kurze Entscheidungsbäume, lineare Modelle
4. Kontrastive Analyse:
Es handelt sich um eine „Was-wäre-wenn“-Szenarioanalyse, die untersucht, wie sich die Änderung oder das Entfernen bestimmter Eingabewerte auf die Modellausgabe auswirkt. Dies ist nützlich für:
- Die Auswirkungen verschiedener Eingangsgrößen verstehen – Erkennen, wie bestimmte Werte zum Endergebnis beitragen.
- Minimale Anpassungen – Ermitteln Sie die kleinsten Änderungen, die an den Eingangsdaten erforderlich sind, um eine andere Ausgabe zu erzeugen.
Verwendete Technik: Kontrafaktische Betrachtungen
Erklärbare KI zählt zu den wachsenden Trends. Mit zunehmender Komplexität und Reichweite der KI steigt auch der Bedarf, ihre Funktionsweise zu verstehen. Erklärbare künstliche Intelligenz findet bereits in vielen Branchen Anwendung.
Betrachten wir den Fall von Wells Fargo , wo die Transparenz bei Kreditablehnungen durch den Einsatz von XAI verbessert wurde.
Wells Fargo nutzte KI, um den Kreditantragsprozess zu automatisieren. Um die Gründe für die Ablehnung oder Genehmigung eines Kreditantrags durch die KI transparent zu machen, implementierte Wells Fargo das erklärbare KI-Modell LIFE. Dieses generiert Codes, die verschiedene Ablehnungsgründe repräsentieren. Beispielsweise könnte ein Code auf ein hohes Verhältnis von Schulden zu Einkommen hinweisen, während ein anderer darauf hinweist, dass der FICO-Score unter dem Mindestwert liegt. Das Modell berücksichtigte zwischen 40 und 80 solcher Variablen, um eine Ablehnung zu begründen. Dies verbesserte die Transparenz des Systems und half Antragstellern, die Gründe für die Ablehnungen zu verstehen, wodurch sich potenziell ihre Chancen auf zukünftige Kredite erhöhten.
Betrachten wir einige seiner Anwendungsgebiete in der folgenden Branche:
Finanzdienstleistungen
- Transparente und offene Kredit- und Genehmigungsprozesse verbessern das Vertrauen und die Kundenerfahrung.
- Beschleunigung der Entscheidungsfindung bei der Beurteilung von Kreditrisiken, Vermögensverwaltung und Finanzkriminalitätsrisiken.
- Durch eine angemessene Begründung der Entscheidung wird die Lösung von Problemen und Beschwerden beschleunigt.
- Es stärkt das Vertrauen in Preisgestaltung, Anlagedienstleistungen und Produktempfehlungen, die von KI generiert werden.
Gesundheitspflege-
Langsamere Prozesse wie Diagnostik und Bildverarbeitung etc. können beschleunigt werden. Gleichzeitig wird der Zulassungsprozess für Arzneimittel optimiert.
- Es trägt dazu bei, die Rückverfolgbarkeit und Transparenz bei Entscheidungen zur Patientenversorgung zu verbessern.
Strafrechtspflege-
- Die Verarbeitung von DNA-Analysen, Gefängnispopulationsanalysen und Kriminalitätsprognosen wurde optimiert, was den Entscheidungsprozess beschleunigen kann.
- Erkennen potenzieller Verzerrungen in Trainingsdaten und Algorithmen, die für kritische Entscheidungen gefährlich sein können.
Dank ihrer Fähigkeit, die Ergebnisse von KI-Modellen zu erklären, schließt erklärbare KI die Lücke zwischen menschlichem Verständnis und KI-Entscheidungsfindung. Mit zunehmender Komplexität und Leistungsfähigkeit von KI-Modellen werden die Prinzipien der erklärbaren KI entscheidend für die Entwicklung verantwortungsvoller KI sein. Die erklärbare KI wird sicherstellen, dass KI-Modelle nicht nur leistungsfähig, sondern auch verständlich und ethisch vertretbar sind. Die Implementierung der erklärbaren KI ist daher nicht nur eine technische Notwendigkeit, sondern auch ein moralisches Gebot.