© iStock/sdecoret
Robot hand making contact with human hand on dark background 3D rendering

eXplainable Artificial Intelligence (XAI)-Toolbox

© Fraunhofer IOSB
Visualisierung der Erklärung auf Basis von XAI - Die XAI-Toolbox liefert dem Benutzer eine Vielfalt von Plots, z. B. Feature Importance (zeigt eine Zusammenfassung des Beitrags jedes Merkmals) und Heat Plots (zeigt detaillierte Erklärungen zur Modellvorhersage).

Kurzbeschreibung des Produkts

Die vom Fraunhofer IOSB entwickelte XAI-Toolbox ist im Kern auf die KI-Erklärbarkeit ausgelegt. Sie ermöglicht die schnelle Auswertung verschiedener XAI-Methoden für KI-Verfahren. Das heißt, die Toolbox kann z. B. zur Datenanalyse, zum Debugging und zur Erklärung der Vorhersage eines beliebigen Black-Box-Modells eingesetzt werden. Damit wird die Vertrauenswürdigkeit bei KI-Entscheidungen gewährleistet. Aktuell unterstützt sie scikit- und TensorFlow-basierte Zeitreihen-Klassifikatoren.

 

Funktionen

Die XAI-Toolbox erschließt die KI-Methoden (Black-Box) und zeigt die Auswirkungen der einzelnen Inputs auf die Outputs. Dazu erzeugt sie zwei Arten von Erklärungen: lokale Erklärung für eine einzelne Instanz und globale Erklärung für mehrere Instanzen oder das gesamte Modell. Einerseits verbessert dies die Fähigkeit der Entwickler, die Ergebnisse besser zu erklären, andererseits stärkt das Vertrauen der Anwender auf die Methoden.

Außerdem hat die Toolbox eine benutzerfreundliche Oberfläche, um die Verwendung von KI-Modellen zu unterstützen. Dies erlaubt dem Anwender, das Ergebnis des KI-Verfahrens und die dazugehörigen Erklärungen intuitiv und korrekt zu interpretieren und schnell die richtigen Schlüsse zu ziehen. Zusätzlich kann der Anwender verschiedene XAI-Methoden bewerten und die beste auswählen. Daher ist die XAI-Toolbox eine notwendige Plattform für den Einsatz in entscheidungskritischen Domänen wie Medizin, Automobil, maritime Situationsanalyse usw.

Entdecken Sie unsere XAI-Toolbox im Video:#

Abteilung Interaktive Analyse und Diagnose des Fraunhofer IOSB

Sie wollen mehr über unsere Projekte und Produkte erfahren? Dann besuchen Sie die Seite unserer Abteilung.

Publikationen