Um die möglichen Vorteile von KI in industriellen Anwendungen zu realisieren, müssen Domänenexperten und Endbenutzer Einblicke in die interne Verarbeitungen von ML-Modellen erhalten. Dies ist das Thema der Explainable Artificial Intelligence (XAI)-Forschung, die in den letzten Jahren viel Aufmerksamkeit erlangt hat. Die Bedürfnisse und Eigenschaften der Benutzer und ihres Arbeitskontextes sind jedoch in industriellen Anwendungen sehr unterschiedlich und diese Aspekte müssen bei der Gestaltung industrieller KI-Systeme berücksichtigt werden. Daher ist es unerlässlich, verschiedene industrielle Benutzer, Anwendungsfälle und Daten zu berücksichtigen, um ein besseres Verständnis des Kontexts und der Anforderungen geeigneter KI-Lösungen zu entwickeln.

Die erfolgreiche Umsetzung dieses Gedankens erfordert eine enge Zusammenarbeit zwischen Anbietern von KI-Anwendungsfällen, KI-Anbietern und Forschungsakteuren aus den Bereichen maschinelles Lernen, XAI, Softwareentwicklung, Benutzererfahrung und menschliche Faktoren. Das Projekt EXPLAIN zielt darauf ab, einen End-to-End-ML-Lebenszyklus zu realisieren, der interaktiv und für Branchenexperten erklärbar ist. Dies erfordert die intensive Einbeziehung von Domänenexperten. Die Entwicklung dieses Einsatzes benötigt ebenfalls fortgeschrittene MLOPS-Ansätze, die direkt auf die Unterstützung und Einbeziehung von Explainable AI fokussieren.

Innerhalb des Projekts wird sich die Arbeitsgruppe Software Systems Engineering, insbesondere Ihre Expertise im Bereich des Software Engineering für KI-Systeme einbringen und sich auf den Bereich des MLOPS für XAI im Kontext der Industrie 4.0 fokussieren.