Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB

Bachelor/Master: Explainable Machine Learning

Klassische Ziele beim maschinellen Lernen sind bislang immer sehr stark auf das Training und die Optimierung (Genauigkeit und Fehlerhäufigkeit) der Verfahren fokussiert. Warum ein neuronales Netz beispielsweise ein Bild als Hund oder Katze klassifiziert hat, wird dagegen eher vernachlässigt. Komplexe gelernte Modelle gelten als „Blackbox“ und sind für Problemstellungen aus dem medizinischen Bereich oder anderen sensiblen Domänen meist nicht ausreichend genug da diese nicht nachvollziehbar sind. Warum schlägt das Vorhersagemodell für den Patienten XY eine aggressivere Behandlungstherapie vor? Solche Fragestellung müssen im Vorhinein betrachtet werden um eventuelle Verzerrungen und anderen Schwachstellen im Modell zu erkennen. Datensätze können zum Beispiel versteckte Vorurteile enthalten. In der Lage zu sein, mögliche Vorurteile innerhalb eines Modells durch erzeugte Erklärungen zu erkennen, ist entscheidend, wenn solche Modelle in sensiblen Bereichen eingesetzt werden sollen.

Zu diesem Thema suchen wir studentische wissenschaftliche Hilfskräfte, die unterschiedliche Themenstellungen im Bereich der Interpretierbar- und Erklärbarkeit untersuchen und implementieren. Bei Interesse können die Aufgaben auch als Bachelor- oder Master-Abschlussarbeiten angelegt oder ausgebaut werden.

Studienrichtung:

  • (Wirtschafts-)Informatik,

  • Ingenieurwissenschaften,

  • Mathematik o.ä.

Aufgaben

  • Detaillierte Untersuchung zu unterschiedlichen Themenstellungen im Bereich Explainable Machine Learning

  • Einsatz unterschiedlicher Machine Learning Algorithmen und bestehenden Bibliotheken

  • Implementierung einzelner Strategien in Python oder R

Voraussetzungen

  • Interesse für das Gebiet Data Science/Machine Learning und Erklärbarkeit maschineller Lernverfahren

  • Gute Kenntnisse im Bereich der Python oder R-Programmierung

  • Freude am Einbringen eigener Ideen und gute Kommunikationsfähigkeit

  • Eine Gelegenheit Ihre Kenntnisse und Fähigkeiten in einem wissenschaftlichen Umfeld einzusetzen

  • Ein kollegiales Arbeitsklima und intensive Betreuung

 Wir bieten Ihnen

  • Eine Gelegenheit Ihre Kenntnisse und Fähigkeiten in einem wissenschaftlichen Umfeld einzusetzen

  • Ein kollegiales Arbeitsklima und intensive Betreuung