Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB 
Ausgangssituation
KI-Anwendungen sind, wie jegliche Software, stetem Wandel unterworfen. In kaum einem Fall sind zu Projektbeginn das Einsatzgebiet, die gewünschte Funktionalität und sämtliche Rahmenbedingungen umfassend bekannt. Im Lauf der Zeit, insbesondere wenn sich das System im operativen Einsatz befindet, entstehen neue Anforderungen und Anpassungswünsche. Im Fall von Machine-Learning-Anwendungen bestehen machen zusätzliche Herausforderungen eine strukturierte Vorgehensweise besonders wichtig, sowohl bei der Erstentwicklung – als Methodik empfiehlt sich hier PAISE® (Process Model for AI Systems Engineering) – als auch während des Betriebs, bei der Weiterentwicklung der Softwarekomponenten und dem Nachtrainieren der Machine-Learning-Modelle. Nur so ist sicherzustellen, dass (Weiter-)Entwicklungen über das Prototypen-Stadium hinaus in operative Umgebungen überführt werden können.
Zielsetzung von MLOps
Dieses strukturierte Vorgehen ist Gegenstand des MLOps-Paradigmas (angelehnt an das aus der Softwareentwicklung bekannte DevOps). MLOps basierend auf unserer Erfahrung in vielen KI-Anwendungsdomänen bestmöglich zu realisieren und soweit möglich zu automatisieren, ist Ziel eines gleichnamigen Eigenforschungsprojekts. Dazu haben wir eine Softwaresuite entwickelt, die vielfältige Werkzeuge für die Erstellung maschineller Lernanwendungen und das Training der ML-Modelle integriert. Unsere Toolsammlung ermöglicht die Versionierung verschiedener Modellversionen, inklusive deren Gütekriterien, unterstützt die die Überführung in den operativen Betrieb und nachfolgend die Überwachung, beispielsweise durch Modell-Drift-Erkennung mit Hilfe des Werkzeugs AutoDrift. Ergänzend stellt die Toolsammlung am Fraunhofer IOSB entwickelte Komponenten zur (Sensor-)Datenverwaltung (FROST®), Videodatenannotation (ANTONN) und Erklärbarkeit von KI-Verfahren (XAI-Toolbox) für den schnellen und einfachen Einsatz bereit.