XAPS

Erklärbare KI für automatisierte Produktionssysteme

Motivation

Förderung von Forschungsvorhaben zur Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz

Mit der Bekanntmachung „Förderung von Projekten zum Thema Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz“ sollen Forschungsvorhaben zur Erforschung und Entwicklung einer erklärbaren, transparenten und nachvollziehbaren Künstlichen Intelligenz (KI) gefördert werden. Die Fördermaßnahme ist Teil der Umsetzung der KI-Strategie der Bundesregierung und der Hightech-Strategie 2025. Durch die Fokussierung auf die Themen Nachvollziehbarkeit, Erklärbarkeit und Transparenz wird mit der Fördermaßnahme ein breiter und langfristiger Nutzen für die verschiedensten Anwender von KI ausgehen. Hierbei werden durch das BMBF insbesondere Verbundprojekte gefördert, die aus interdisziplinären Kooperationen zwischen der Informatik und angrenzenden Disziplinen wie Wahrnehmungspsychologie und Kognitionswissenschaften, Mathematik und Physik bestehen. Mit der Förderung von Forschungsvorhaben im Bereich KI schafft das BMBF die Grundlage für weitere Innovationen mit hohem gesamtwirtschaftlichem Potenzial und trägt damit zur Stärkung des Wirtschafts- und Wissenschaftsstandortes Deutschland bei.

Nachvollziehbare Künstliche Intelligenz in der Produktion

Automatisierte Produktionssysteme (aPS) arrangieren Betriebsmittel, wie Förderbänder und Produktionsmaschinen, in komplexen Prozessen. Diese Betriebsmittel verarbeiten Zwischenprodukte und überprüfen deren Qualität. Je nach Prüfergebnis wird ein Zwischenprodukt im Prozess weitergegeben, verschrottet oder zur manuellen Prüfung und Nacharbeit ausgeschleust. Obwohl die Einzelschritte überwacht werden, gibt es so komplexe Abhängigkeiten zwischen Material, Bearbeitungsschritten, Betriebsmitteln, Betriebsmittelwartung und Prüfergebnissen, dass selbst bei vermeintlich korrekter Bearbeitung der Zwischenprodukte einem Endprodukt die erforderliche Qualität fehlen kann. Das führt zu teurer Nacharbeit oder sogar zu Ausschuss.

Ziele und Vorgehen

Ziel des Projektes ist es, mit Methoden des maschinellen Lernens komplexe Abhängigkeiten zwischen Fehlern und Bearbeitung frühzeitig zu entdecken und sie wiederum mit KI Methoden so zu erklären, dass der Betreiber sein aPS effizient und effektiv optimieren kann. Dazu verknüpft XAPS digitale Beschreibungen der Fabrik und des Produkts (digitaler Zwilling) aus dem Manufacturing Execution System (MES) mit maschinellem Lernen (ML) und innovativen Methoden der formalen Argumentation. Existierende Ansätze zur Erklärung von KI extrahieren meist einfachere Modelle für Spezialfälle aus komplexen neuronalen Netzwerken, die dann für den Menschen interpretierbar sind. Diese Ansätze beschäftigen sich allerdings meist nur mit Identifikation von Messwerten, die zu einer bestimmten Entscheidung geführt haben, jedoch nicht mit den Umständen in der realen Umgebung, die dem gesamten Prozess zu Grunde liegen.

Innovationen und Perspektiven

Formale Argumentation ist eine Teildisziplin der KI, die sich ideal für die Repräsentation solcher Erklärungen eignet. Die Modelle der formalen Argumentation verwenden insbesondere Ansätze, die sich mit der Repräsentation und Interaktion von Argumenten und Gegenargumenten befassen. So liefert die Methode ein Argument, welches ein Fehlverhalten erklärt und durch den menschlichen Bearbeiter interpretiert und, wenn es nicht zutrifft, wiederlegt werden kann, wodurch die XAPS Plattform nach einer neuen Begründung für den Fehler sucht. Dies ergibt die Grundlage für ein ganzheitliches Lösungsportfolio zur Steuerung und Überwachung von aPS.

Projektinformation

Projektleitung

Old World Computing GmbH
Industriestraße 27
44892 Bochum

Volumen

1.061.284,00 €

Laufzeit

01/2020 – 12/2021

Projektpartnerinnen und -partner

  • Old World Computing GmbH
  • iTAC Software AG
  • HELLA GmbH & Co. KGaA
  • Universität Koblenz-Landau
  • Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Institut für Software- und Systemtechnik (ISST)