Verbundprojekt: Elektronikplattform für vertrauenswürdige dezentrale Edge-KI - EdgeAI-Trust -

Die Nutzung von komplexen Modellen der Künstlicher Intelligenz (KI) in Mobilitätssystemen führt zu ei-ner Zunahme der Abhängigkeiten von KI-Modellen, insbesondere in Fahrzeugsysteme, die teilautonom oder vollautonom fahren. Dies stellt eine Herausforderung für die Cybersicherheit und Rechtssicherheit (Zulassung/Regulierung, Verkehrsrecht und Versicherung) dar, da der Zugriff auf Daten zur Rekonstruktion von Systemzuständen für autorisierte Institutionen technische und systemische Hürden mit sich bringt. Hierzu werden im Teilprojekt Domänen der Cybersicherheit für KI, Explainable AI (XAI) und Forensik für KI miteinander verschnitten, um Lösungsansätze für die Praxis entwerfen zu können. Dabei drei Bereiche untersucht und Lösungsansätze entwickelt: 1. Cybersicherheit bei Angriffen auf KI-Systeme in der Mobilität mittels Data Poisoning 2. XAI auf KI-Systeme mit höherer Grade der Autonomie und Reinforcement Learning im Bereich autonomes Fahren 3. Adaption rechtssicherer Methoden der Forensik auf die digitale Forensik von KI-Systeme in Fahrzeugen