KI-Entwicklung: Präzision und Verlässlichkeit für sensible Einsatzbereiche

Agentic AI ist der nächste Entwicklungsschritt in der Anwendung großer Sprachmodelle. Doch die Realität ist komplexer als das Versprechen:

• Wie belastbar ist die Planungsfähigkeit von LLMs tatsächlich?
• Wo reichen kosteneffiziente Modelle und wo braucht es Flagship-Kapazität?
• Wie entwirft man robuste Systeme, wenn sich das Verhalten grundlegend von klassischer, deterministischer Software unterscheidet?

Der produktive Einsatz von KI-Agenten erfordert ein fundiertes Verständnis dieser Möglichkeiten und Grenzen.

Wir entwickeln KI-Agenten, die mehrstufige Aufgaben eigenständig planen und ausführen und dabei immer innerhalb klar definierter Handlungsräume bleiben. Durch das Zusammenspiel spezialisierter Werkzeuge und Datenquellen übernehmen sie arbeitsteilige Abläufe entlang vorgegebener Prozesse und wählen dabei selbstständig die passenden Methoden zur Zielerreichung. Über die Anbindung an interne Wissensbasen und bestehende Anwendungen agieren sie kontextbezogen und passgenau für den jeweiligen Einsatzbereich.

Wir untersuchen, wie sich die oft abstrakt formulierten Anforderungen aus regulatorischen Rahmenwerken, wie z. B. dem EU AI Act und auch organisatorischen Vorgaben, in technisch prüfbare Architekturprinzipien überführen lassen. Unter dem Begriff Agent Policies definieren wir, welche Entscheidungen ein Agent treffen darf, wie er sein Vorgehen begründen muss und wo verbindliche Leitplanken gelten. Ziel ist es, Transparenz, Erklärbarkeit und Governance nicht nachgelagert zu behandeln, sondern als strukturgebende Prinzipien in der Software zu verankern – dokumentierbar, prüfbar und über den gesamten Lebenszyklus nachverfolgbar.

So lassen sich auch anspruchsvolle Arbeitsabläufe zuverlässig automatisieren, ohne den fachlichen und organisatorischen Rahmen zu verlassen.

Relevantes Wissen in Organisationen ist oft über heterogene Quellen und Formate verteilt, in Dokumenten, Fachsystemen, als Text oder XML oder als Bilddateien. Klassische Stichwortsuche stößt hier schnell an ihre Grenzen: sie findet Begriffe, aber keine Zusammenhänge. Implizites Erfahrungswissen bleibt unerschlossen, Redundanzen und Widersprüche unerkannt.

Wir entwickeln Lösungen für das organisationsweite Wissensmanagement, die verteiltes Wissen aus heterogenen Quellen zusammenführen und systematisch nutzbar machen. Implizites Erfahrungswissen aus Dokumenten, Datenbanken und Fachsystemen wird in eine durchsuchbare und verknüpfte Wissensbasis überführt, die über semantische Suche als zentrale Informationsgrundlage für Anwender und nachgelagerte KI-Systeme dient. Durch Retrieval Augmented Generation (RAG) koppeln wir generative Sprachmodelle an verifizierte Datenquellen. Dadurch kann auch den für LLMs typischen Halluzinationen vorgebeugt werden, sodass dies faktenbasierte, belegbare und methodisch nachvollziehbare Systemantworten für höchste Ansprüche ermöglicht.

Unsere langjährige Arbeit im Information Retrieval zeigt: bewährte Retrieval-Verfahren und moderne Sprachmodelle ermöglichen neue Formen der Interaktion mit Wissensbeständen. Wir untersuchen hybride Architekturen und neuro-symbolische Ansätze, wie z. B. GraphRAG Verfahren. GraphRAG kombiniert strukturierte Wissensmodellierung mit generativer Sprachverarbeitung und vereint so die Stärken beider Paradigmen. Im Fokus stehen dabei die Nutzung expliziter Wissensstrukturen für präziseres Retrieval und die Frage, wie sich domänenspezifisches Wissen so formalisieren lässt, dass es für LLMs zuverlässig nutzbar wird.

Komplexe Dokumente wie Normentexte erfordern konsistente Strukturen, terminologische Präzision und Regelkonformität. Die manuelle Prüfung und Pflege ist aufwändig, fehleranfällig und skaliert schlecht mit wachsenden Dokumenten und Versionsbeständen. Gerade im Standardisierungsumfeld, wo Fehler weitreichende Folgen haben können, besteht hoher Bedarf an systematischer Unterstützung.

Unser KI-gestütztes Autorensystem evaluiert Normentexte bereits während der Erstellung auf Basis formalisierter Regelwerke. Es identifiziert strukturelle sowie semantische Inkonsistenzen und liefert proaktiv Optimierungsvorschläge, was die Konsistenz und Effizienz im Standardisierungsprozess signifikant steigert.

Als Abteilung, die selbst aktiv an zahlreichen Standardisierungen (NATO-STANAGs, DIN) mitwirkt, kennen wir die Herausforderungen aus eigener Hand. Diese Doppelrolle als Anwender und Entwickler ermöglicht es uns, Lösungen zu entwerfen, die tatsächlich am realen Bedarf ansetzen. Am Beispiel der Standardisierung untersuchen wir, wie sich KI-gestützte Dokumentenverarbeitung auch auf weitere Anwendungsfelder mit vergleichbaren Anforderungen an Struktur, Konsistenz und Nachvollziehbarkeit übertragen lässt.

Viele Organisationen wollen KI-Technologien einsetzen, dürfen aber aus Datenschutz- und Compliance-Gründen keine Daten an externe Dienste übermitteln. Große kommerzielle Sprachmodelle sind als Flaggschiffe leistungsstark und vergleichsweise einfach einsetzbar, stehen in solchen Umgebungen aber nicht zur Verfügung. Wer auf kleinere, selbst betreibbare Modelle setzen muss, steht vor ganz anderen Herausforderungen: geringere Modellkapazität, höherer Optimierungsbedarf, HW-Limitierungen und die Frage, wie man trotzdem verlässliche Ergebnisse erzielt.

Als Forschungseinrichtung arbeiten wir selbst in zahlreichen Projekten mit sensiblen Daten und kennen die Einschränkungen aus eigener Erfahrung. Datensouveränität ist daher für uns kein abstraktes Anforderungskriterium, sondern ein konkreter Entwicklungskontext. Wir untersuchen, wie sich mit lokal betriebenen (on-premise Ansatz), kleineren Sprachmodellen durch gezielte Architekturentscheidungen und Domänenanpassung Ergebnisse erzielen lassen, die an die Leistungsfähigkeit größerer Cloud-Modelle heranreicht.

Alle oben beschriebenen Anwendungen, ob Agentic AI, Wissensmanagement oder Dokumentenverarbeitung, werden so konzipiert, dass sie in souveränen, abgeschotteten Betriebsumgebungen lauffähig sind.