Verbundprojekt EXPLAIN: Explanatory interactive Artificial intelligence for Industry

Um die möglichen Vorteile der KI in industriellen Anwendungen zu nutzen, müssen Fachleute und Endnutzer Einblicke in die interne Entscheidungslogik von ML-Modellen erhalten. Dies ist das Thema der XAI-Forschung und hat in den letzten Jahren viel Aufmerksamkeit erfahren. Es ist unerlässlich, verschiedene industrielle Nutzer, Anwendungsfälle und Daten zu berücksichtigen, um ein besseres Verständnis für den Kontext und Anforderungen an KI-Lösungen zu entwickeln. Dies erfordert eine enge Zusammenarbeit zwischen Anbietern von KI-Anwendungsfällen, KI-Anbietern und Forschungsakteuren aus den Bereichen maschinelles Lernen, XAI, Software-Engineering, und Mensch-Maschine Interaktion. Das vorgeschlagene Projekt EXPLAIN als Teil eines EUREKA AI Projekts zielt darauf ab, einen durchgängigen ML-Lebenszyklus zu realisieren, der interaktiv und für industrielle Fachleute erklärbar ist. Dies bedeutet, dass die Fachexperten durch die Einführung von vier neuen Schritten in den ML-Lebenszyklus intensiv einbezogen werden. In einer erklärenden Trainingsphase interagieren die Domänenexperten zusammen mit den ML-Experten während des Trainingsprozesses direkt mit dem ML-Modell, erhalten Erklärungen zum Modelloutput und können Feedback geben. In einem Explanation Review erfolgt die Validierung von ML-Lösungen, indem Fachexperten Einblicke in die interne Logik des trainierten Modells erhalten, um sicherzustellen, dass relevante Konzepte aus den bereitgestellten Daten gelernt werden. Für die Endnutzer wird jeder Output der ML-Modelle erklärt und die Endnutzer können auch Feedback geben und ein inkrementelles erklärendes Training auslösen. Dies wird durch die Entwicklung eines nahtlosen MLOps-Prozesses für den gesamten ML-Lebenszyklus ermöglicht. EXPLAIN wird eine repräsentative Reihe von industriellen Anwendungsfällen berücksichtigen, um allgemein anwendbare Lösungen zu entwickeln. Jeder Anwendungsfall bringt zusätzliche Erkenntnisse und Ideen für den Entwicklungsprozess und die Ergebnisse.