Innovationspreis für vertrauenswürdige und anwendungsorientierte Künstliche Intelligenz
Montag, 22. September 2025 - 08:34 Uhr
Das Projekt EXPLAIN, ein länderübergreifendes Projekt der Universität Hildesheim in Kooperation mit weiteren Universitäten und Unternehmen, hat sich zum Ziel anwendungsorientierte Künstliche Intelligenz (KI) in industriellen Produktionsprozessen zu etablieren. Dadurch soll eine erklärbare und damit vertrauenswürdige Entscheidungsfindung in der Prozessindustrie ermöglicht werden. Für ihre Arbeit wurde das Projektteam nun mit dem ITEA Award of Excellence for Innovation ausgezeichnet.
„Trotz des wachsenden Potenzials wird die Anwendung von KI in der Industrie oft durch fehlende Vertrauenswürdigkeit eingeschränkt,“ erklärt Prof. Dr. Klaus Schmid, Professor für Software Systems Engineering an der Universität Hildesheim. Dies hängt beispielsweise mit unverständlichen Algorithmen und abstrakten Erklärungen zusammen, die Skepsis bei den Anwender*innen hervorrufen. Daher legt das Projekt EXPLAIN seinen Fokus auf die Integration transparenter und praxisnaher KI-Modelle. So können Fachleute aus den jeweiligen Anwendungsbereichen maschinelles Lernen besser verstehen, mit den Systemen interagieren und diese verbessern. Der erklärungsbasierte Ansatz des Projekts, kombiniert mit Nutzer*innenfeedback fördert nicht nur die Zusammenarbeit zwischen allen Beteiligten, sondern unterstützt auch die kontinuierliche Weiterentwicklung und Anpassung.
Die Arbeiten der Universität Hildesheim fokussieren dabei eine systematische Erarbeitung des technischen Stands und der Anwendungsbedarfe im Bereich Machine Learning Operations (MLOPs), sowie die Entwicklung einer MLOPs-Referenzarchitektur. Ergänzt wird dies durch die Entwicklung eines Prototyps, um schnell und effizient angepasste MLOPs-Umgebungen aufzubauen. Mithilfe von MLOPs können Unternehmen Aufgaben automatisieren und die reibungslose Zusammenarbeit verschiedener Abteilungen (z.B. Anwendungsingenieur*innen, Software-Ingenieure und KI-Experten) sicherstellen. Außerdem unterstützt MLOPs bei der Überwachung und Verbesserung von KI-Modellen hinsichtlich ihrer Genauigkeit und Leistungsfähigkeit.
Zu den Ergebnissen des nun ausgezeichneten Projekts zählen ein Erklärungsrahmen, der Herausforderungen aus der Industrie mit geeigneten Erklärungsmethoden verknüpft und ein Feedback-Mechanismus, der eine kontinuierliche Verbesserung auf Basis realer Beobachtungen ermöglicht. Geplant ist zudem ein Leitfaden für den menschenzentrierten Einsatz von KI in der Prozessindustrie. „Mit EXPLAIN ist es gelungen, einen weiteren Schritt hinzu vertrauenswürdigen KI-Systemen zu machen,“ betont Schmid. „Die Auszeichnung ist ein Ansporn, diesen Weg auch in Zukunft weiter zu beschreiten.“
Weitere Informationen
Die ITEA ist der EUREKA-Cluster für Softwareinnovation und digitalen Wandel, der einer internationalen Gemeinschaft aus Großunternehmen, KMU, Start-ups, Hochschulen und Kundenorganisationen die Zusammenarbeit in geförderten Projekten ermöglicht, um innovative Ideen in neue Unternehmen, Arbeitsplätze, Wirtschaftswachstum und Vorteile für die Gesellschaft umzusetzen. Mit dem ITEA Award of Excellence werden jährlich Projekte geehrt, die auf internationaler Zusammenarbeit basieren und innovative Ergebnisse erzielen.
Das Projekt EXPLanatory interactive Artificial intelligence for Industry (EXPLAIN) ist eine Projektgemeinschaft aus Universitäten und Unternehmen aus Deutschland, Schweden und den Niederlanden. Für Deutschland sind die Technische Universität Darmstadt und die Universität Hildesheim sowie das ABB AG Forschungszentrum, Eraneos Analytics und die Lausitz Energie Kraftwerke AG dabei. Die Universität Hildesheim wurde im Projekt EXPLAIN unter Förderkennzeichen 01|S22030E durch das Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) gefördert.
