AIQualify vereinfacht die Qualifizierung von KI-Systemen

In Kürze

Die Bewertung und Qualifizierung von Anwendungen mit Künstlicher Intelligenz (KI) ist insbesondere für kleine und mittlere Unternehmen (KMU) angesichts fehlenden Fachwissens sehr herausfordernd. Um KMU, aber auch generell produzierende Unternehmen sowie KI- und Prüfdienstleister hierfür dennoch zu befähigen, entwickeln das Fraunhofer IPA und das IFF der Universität Stuttgart ein Software-Framework zur vereinfachten Auditierung von KI-Systemen in der industriellen Qualitätsprüfung.  

Im Detail

Im Rahmen des Forschungsprojekts »AIQualify« zwischen dem Fraunhofer IPA und dem Institut für Industrielle Fertigung und Fabrikbetrieb IFF der Universität Stuttgart erleichtert ein neues Software-Framework die Abnahme und Auditierung von KI-basierten Anwendungen, insbesondere in der industriellen Bildverarbeitung und Qualitätskontrolle. 

KI-Anwendungen in diesen Bereichen bieten vor allem mittelständischen Unternehmen einen Wettbewerbsvorteil, da sie zeitaufwendigen manuellen Prozessen entgegenwirken. Allerdings besteht Unsicherheit hinsichtlich der Transparenz und Nachvollziehbarkeit von KI-Anwendungen, die auf maschinellem Lernen basieren. Künstliche neuronale Netze lernen aus großen Datenmengen, aber wie sie zu ihren Ergebnissen kommen, bleibt oft unklar. Dies führt zu Skepsis hinsichtlich Zuverlässigkeit und Robustheit sowie rechtlichen Bedenken – insbesondere auch, da zukünftige Regulierungen wie der »EU AI Act« mehr Transparenz erfordern.

Das Forschungsprojekt »AIQualify« zielt darauf ab, die Sicherheit und Eignung von ML-basierten KI-Anwendungen ohne Fachwissen nachzuweisen. Ein Software-Framework unterstützt Anwender bei der Festlegung von Prüf- und Bewertungskriterien, die in einer Argumentationsstruktur zentralisiert werden. Diese Kriterien dienen zur Abnahme der KI-Anwendung entlang des Entwicklungsprozesses.

Um die ganzheitliche Eignung der KI-Anwendung nachzuweisen, ermöglicht das Framework die Prüfung jeder Phase des Entwicklungsprozesses – von der Konzeption bis zur Inverkehrbringung. Es adressiert drei Zielgruppen: Dienstleister für Qualitätsprüfung, produzierende Unternehmen und Dienstleister für Konformitätsprüfungen.

Das Framework wird anhand von zwei Beispielanwendungen getestet: einer kamerabasierten Defekterkennung von Lochscheiben mit KI und einem Anwendungsfall aus der industriellen Praxis, den ein Projektausschuss zum Projekt beisteuert.