Assistenzsystem zur Vermeidung von Motion Sickness

Kinetoseprävention durch Erfassung der Fahreraktivität mittels Innenraumkameras

Bewegungskrankheit (Kinetose)
© Fraunhofer IOSB
Bewegungskrankheit (Kinetose)
Nah-Infrarot(NIR)-Stereo-Kamerasensoren zur 3D-Erfassung von Aktivitäten
© Fraunhofer IOSB
Im Frontbereich des Ford-Versuchsfahrzeugs verwendete Nah-Infrarot(NIR)-Stereo-Kamerasensoren zur 3D-Erfassung von Aktivitäten wie Lesen.
Körperposen Erfassung mittels Kameras als Basis für die Aktivitätserkennung
© Fraunhofer IOSB
Körperposen Erfassung mittels Kameras als Basis für die Aktivitätserkennung

Projekthintergrund

Im Projekt KARLI wurden Lösungen entwickelt, die fahrdynamikbedingte körperliche Beeinträchtigungen erkennen, vermeiden und diesen vorbeugen. Die Kinetosevorbeugung trägt zur Sicherheit des automatisierten Fahrens im Falle einer erforderlichen Übernahme der Fahraufgabe bei. Der kamerabasierte Assistent des Fraunhofer IOSB zur Analyse von Posen wurde mit der Fähigkeit ausgestattet, Aktivitäten in Echtzeit zu erkennen. Mit diesen Informationen wurden adaptive Interaktionen umgesetzt, um vorbeugende nutzer- oder fahrzeugseitige Maßnahmen gegen Kinetose einzuleiten. 

Kinetose (englisch: Motion Sickness) ist kein neues Phänomen, es betraf bisher hauptsächlich Mitreisende. Bis zu zwei Drittel von ihnen sind von Kinetose betroffen. Neu ist jedoch, dass diese Problematik auch Fahrende betrifft, die sich im automatisierten Fahrzeug temporär aus der Fahraufgabe zurückziehen. Besonders in Fahrzeugen der SAE-Level 3, in denen sich Fahrende verschiedenen Nebenaufgaben zuwenden dürfen, entsteht dadurch nicht selten Kinetose. Wenn Betroffene plötzlich wieder eingreifen müssen, kann Kinetose zur Gefahr werden: Die Symptome – von Übelkeit über Schwindel bis hin zu verlangsamter Reaktionszeit – beeinträchtigen die Fahrtüchtigkeit mitunter über einen Zeitraum von Stunden. Damit wird Kinetose beim automatisierten Fahren nicht nur zu einem komfort-, sondern zu einem sicherheitsrelevanten Thema.

Projektziel

Mit der Idee aus KARLI, das von Fraunhofer und Continental ins Leben gerufen wurde, soll das Auftreten von Kinetose vermieden werden, bevor Symptome auftreten. Ziel des Projekts, an dem mehrere Partner aus dem Bereich Forschung, Industrie und Dienstleistung beteiligt sind, ist es, gefährdende Aktivitäten zu identifizieren und gezielt gegenzusteuern – etwa durch frühzeitige Hinweise auf kritische Fahrstrecken, kombiniert mit Empfehlungen zur Änderung der Sitzhaltung oder der Aktivität. Der passendste Zeitpunkt für die proaktiven Hinweise sollte dabei auf die aktuelle Aktivität abgestimmt werden, um möglichst wenig zu stören und um bestmöglich zu wirken. 

Projektergebnis

Basierend auf den Erkenntnissen aus einer internationalen Umfrage entwickelte das Fraunhofer IOSB ein auf Kameradaten basierendes Erkennungssystem für risikobehaftete Aktivitäten. Die im Fahrzeug verbaute Sensorik– typischerweise in teilautomatisierten Fahrzeugen bereits vorhanden – wird um eine Aktivitätserkennung auf Basis künstlicher Intelligenz (KI) erweitert. Dadurch entsteht ein adaptives System, das vorhersagt, wann eine bestimmte Tätigkeit in Kombination mit einer bevorstehenden Kurve, einem Kreisverkehr oder einer Stop-and-Go-Situation zur Gefahr werden könnte. Diese Informationen können wiederum in die Gestaltung von Hinweisen oder Navigationsvorschlägen integriert werden oder an Assistenzsysteme zur Fahrzeugsteuerung übergeben werden.

Grundlage für die Aktivitätserkennung ist das vom Fraunhofer IOSB bereits in einigen Forschungs- und Entwicklungsprojekten verwendete KI-gestützte System, das in Kameradaten 3-D-Posen erkennt. Aus den Posen können Aktivitäten der Fahrzeuginsassen und -insassinnen abgeleitet werden. Durch die Analyse von Bewegungsmustern und Objektinteraktionen kann das weiterentwickelte flexible und modulare Advanced Occupant Monitoring System bis zu 35 Aktivitäten unterscheiden, darunter Lesen, Schreiben oder das Umwenden vom Vordersitz zur Rückbank. Die präzise und flexible Erkennung von Aktivitäten in Echtzeit mit dem Advanced Occupant Monitoring System wurde im Projekt KARLI verwendet, um potenzielle Risiken der Kinetose frühzeitig zu identifizieren und entsprechende Gegenmaßnahmen einleiten zu können.

 

Projektpartner

  • Allround Team GmbH – Datenerhebung im Realfahrzeug für Motion Sickness Fragestellungen
  • AUDI AG – Funktionsumsetzung von adaptiven und responsiven Interaktionen
  • branmatt II legal – rechtliche Beratung des Gesamtprojekts
  • Continental Automotive GmbH – Administrativer Projektkoordinator, Funktionsumsetzung zur KI-basieren Erkennung von levelkonformem Fahrerverhalten
  • Ford-Werke GmbH – Funktionsumsetzung eines Visual Activity Managers zur Vermeidung von Motion Sickness
  • Fraunhofer IAO – Datenerhebung und Datenveredelung aus Fahrten mit dem Wizard-of-Oz Realfahrzeug
  • Fraunhofer IOSB – wissenschaftlich – technischer Koordinator, Kamerabasiertes Occupant Monitoring und Datenerhebung im Realfahrzeug
  • Hochschule der Medien – Nutzerzentrierte Entwicklungsmethoden und User Experience Evaluation im Entwicklungsprozess
  • INVENSITY GmbH – Datanmanagement, GaiaX und Cloud, KI-Architekturberatung
  • paragon semvox GmbH – proaktive Sprachinteraktion, adaptive und responsive Assistenz
  • studiokurbos GmbH – Interaktionsdesign für adaptive und responsive Interaktion im Fahrzeug
  • TWT GmbH Science & Innovation – Außenraumkontext Interpretation und Synthese mit Insassenzustand
  • Universität Stuttgart IAT – Datenerhebung für proaktive Sprachinteraktionen und zur Erfassung von Fahrerzuständen über HMI

Unser aktuelles Whitepaper mit Schwerpunkt auf Sensorfusion!

Advanced In-Cabin Monitoring Systeme werden das Nutzererlebnis im Auto erheblich verändern und versprechen, der nächste grundlegende Meilenstein für die Fahrzeugsicherheit zu werden.

In diesem White Paper »Pioneering In-Cabin Monitoring - Unmasking the Power of 2D and 3D Cameras« geben die Expert*innen des Fraunhofer IOSB für Computer Vision und Automotive In-Cabin Sensing hilfreiche Einblicke in

  • aktuelle und zukünftige Gesetzgebung zu Fahrerüberwachungssystemen
  • aktuelle und zukünftige Anwendungen und Funktionen der Insassenüberwachung
  • Roadmap für die Zukunft der Insassenüberwachung
  • Sensorvergleiche, insbesondere die Vorteile von 2D- und 3D-Sensorik
  • Ausblick auf die Auswirkungen von generativer KI, LLM und multimodalen Sichtmodellen.

Kontaktieren Sie uns für weitere Informationen, Forschungskooperationen und Auftragsforschung. 

 

Abteilung Human-AI Interaction

Sie wollen mehr über unsere Projekte im Bereich Automotive erfahren? Hier finden Sie einen Überblick unserer Aktivitäten in diesem Bereich innerhalb der Abteilung Human-AI Interaction!

KI für Interaktion im Fahrzeug der Zukunft

Im Projekt KARLI wird ein KI-System für die Erkennung der Insassenzustände sowie für Fahrer-Fahrzeug-Interaktionen im Fahrzeuginnenraum entwickelt.

 

Projektdetails

Das Assistenzsystem zur Vermeidung von Motion Sickness wurde in dem Projekt KARLI entwickelt.

Projektlaufzeit: 7/2021 - 9/2024

Das Projekt wurde gefördert vom Bundesministerium für Wirtschaft und Klimaschutz.

Advanced Occupant Monitoring System

Unser kamerabasiertes Assistenzsystem AOMS für den Fahrzeuginnenraum erkennt die Aktivitäten der Insassen sowie kritische Situationen.