Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA
veoPipe – Zuverlässige KI im Produktentwicklungsprozess
In Kürze
In Zusammenarbeit mit der Huber Automotive AG und der ROI Management Consulting AG wird eine strukturierte Vorgehensweise zur Analyse und Absicherung von Produkten mit KI inklusive Erklärung und Verifikation der KI im Produktentwicklungsprozess (PEP) erarbeitet. Das Ziel ist ein schneller und einfacher PEP für sichere Produkte.
Im Detail
Zunehmend werden KI-Funktionen in physische Produkte integriert. Die KI-Funktionen selbst und die daraus resultierenden Produkte sind nach heutigen Maßstäben nur unzureichend analysiert und abgesichert sowie schlecht erklär- und verifizierbar (Black-Box-Thematik). Die Analyse und Absicherung inklusive Erklärbarkeit bzw. Nachvollziehbarkeit des Produkts und seiner Funktionen sind jedoch entscheidend, um Vertrauen zu generieren und eine breite Akzeptanz von Produkten mit KI zu schaffen. Dafür bedarf es eines angepassten Vorgehens in der Entwicklung.
Basierend auf zwei Beispielprodukten wird ein angepasster Produktentwicklungsprozess erarbeitet: Ein System zur Klassifizierung des Zustands und Absicherung der Leistungsfähigkeit einer Batterie sowie eine E-Trailer-Plattform inklusive zuverlässiger Schätzung des Gespannzustands.
Hierbei werden für die Absicherung der physischen Komponenten und deren Schnittstellen mit den KI-Funktionen klassische Qualitätsmanagement-Methoden hinsichtlich ihrer Eignung und Anwendbarkeit auf physische Produkte mit KI-Funktionen überprüft und weiterentwickelt. Für die KI selber werden Methoden der Erklärbarkeit von KI (xAI) in Kombination mit einer formalen oder datenbasierten Verifikation des Systemverhaltens genutzt, um kritisches Systemverhalten identifizieren, bewerten und zielgerichtet optimieren zu können.
Integriert in ein gesamtheitliches Vorgehen ergibt sich damit ein stringenter Produktentwicklungsprozess. Dies unterstützt die effiziente Entwicklung sicherer Produkte mit KI-Funktionalitäten und stärkt das Vertrauen in diese Produkte.
Fördergeber
Gefördert durch
das Bundesministerium für Wirtschaft und Klimaschutz
und
TÜV Rheinland AG
