Verbundprojekt TRAIN: Vertrauenswürdige und robuste Künstliche Intelligenz

Während die Vorteile von KI-Technologien für Industrie und Gesellschaft vielfältig sind, erfolgt ihre Einführung nur langsam und der potenzielle Wert von KI ist noch nicht im großen Maßstab nachgewiesen. Das TRAIN-Projekt plant diese Herausforderung anzugehen und konzentriert sich dabei auf die beiden größten Hindernisse für den Einsatz von KI, nämlich mangelnde Robustheit und fehlendes Vertrauen. Robustheit: Während die Menge der für KI-Technologien verfügbaren Daten exponentiell gestiegen ist, ist ihre Qualität nach wie vor mittelmäßig. Die KI steht vor mehreren technischen Herausforderungen, darunter die Heterogenität und Verzerrung der Daten. Zusätzlich zu diesen technischen Herausforderungen muss sich die KI auch mit der Möglichkeit von Angriffen auf die Sicherheit auseinandersetzen, die darauf abzielen, die Ergebnisse von Vorhersagen der KI-Modellen zu beeinträchtigen. Vertrauen: Es kommt häufig vor, dass KI persönliche und/oder vertrauliche Daten verarbeitet. Federated Learning, bei dem Tausende von Teilnehmern ein gemeinsames KI-Modell trainieren, soll den Schutz der Daten gewährleisten, da diese ihre Quelle nicht verlassen. Das Teilen der Parameter des gemeinsamen Modells kann jedoch potenziell zu Datenlecks führen. Das Ziel des TRAIN-Projekts ist es, diese beiden Herausforderungen von der Trainingsphase von Modellen bis hin zu deren Einsatz und Ausführung zu untersuchen. Für die Trainingsphase werden wir uns auf das Federated Learning konzentrieren und neue, robuste und sichere Lösungen vorschlagen, die gleichzeitig die Vertraulichkeit der Daten schützen. Die Untersuchung der Ausführungsphase hingegen wird sich sowohl auf föderierte als auch auf zentralisierte KI-Algorithmen beziehen. Die entwickelten Lösungen werden dann anhand von Anwendungsfällen aus dem realen Leben, insbesondere im Gesundheitsbereich, evaluiert.