Förderung von Forschungsvorhaben zur Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz
Mit der Bekanntmachung „Förderung von Projekten zum Thema Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz“ sollen Forschungsvorhaben zur Erforschung und Entwicklung einer erklärbaren, transparenten und nachvollziehbaren Künstlichen Intelligenz (KI) gefördert werden. Die Fördermaßnahme ist Teil der Umsetzung der KI-Strategie der Bundesregierung und der Hightech-Strategie 2025. Durch die Fokussierung auf die Themen Nachvollziehbarkeit, Erklärbarkeit und Transparenz wird mit der Fördermaßnahme ein breiter und langfristiger Nutzen für die verschiedensten Anwender von KI ausgehen. Hierbei werden durch das BMBF insbesondere Verbundprojekte gefördert, die aus interdisziplinären Kooperationen zwischen der Informatik und angrenzenden Disziplinen wie Wahrnehmungspsychologie und Kognitionswissenschaften, Mathematik und Physik bestehen. Mit der Förderung von Forschungsvorhaben im Bereich KI schafft das BMBF die Grundlage für weitere Innovationen mit hohem gesamtwirtschaftlichem Potenzial und trägt damit zur Stärkung des Wirtschafts- und Wissenschaftsstandortes Deutschland bei.
Erklärbare Künstliche Intelligenz zur Unterstützung der Entscheidungsfindung
Eine Standardmethode der Künstlichen Intelligenz im Bereich Maschinelles Lernen sind Künstliche Neuronale Netze (KNN). Diese können zwar erfolgreich für komplexe Aufgaben trainiert werden, es ist aber schwierig ihre Funktionsweise zu verstehen und ihre Verlässlichkeit zu gewährleisten. Beim Autonomen Fahren kommen ebenfalls KNN zum Einsatz, z. B. um Fußgänger oder Radfahrer zu erkennen, deren Verhalten zu antizipieren und entsprechend zu reagieren. Insbesondere bei diesen sicherheitskritischen Systemen ist es notwendig, dass die Funktionsweise nachvollziehbar ist und sie damit zertifizierbar sind.
Das Projekt NEUPA hat zum Ziel die Erklärbarkeit der KNN zu erhöhen und so mittelfristig Zertifizierungen prinzipiell zu ermöglichen. Zu diesem Zweck werden im Rahmen des Projekts zwei Ansätze verfolgt: Zum einen werden Prädiktionsmodelle, die für gegebene sensorische Eingaben das zu erwartende Systemverhalten vorhersagen, gemeinsam mit lernenden KNN für das jeweilige Verhalten trainiert. Diese werden dann genutzt, um das Verhalten der KNN selbst zu erklären und besser zu verstehen. Beim zweiten Ansatz werden mit Methoden der statistischen Physik und des kollektiven Entscheidens das vielfältige Zusammenspiel der vernetzten künstlichen Neuronen und deren Entscheidungsfindung analysiert. Dabei werden in mehreren Iterationen Gruppen von künstlichen Neuronen ihrer Funktionalität folgend zu größeren Modulen zusammengefasst, um das KNN dann Modul für Modul in seiner Wirkweise verstehen zu können. Prädiktionsmodelle für KNN und Methoden der statistischen Physik werden genutzt, um Verhalten von Fußgängern und Radfahrern vorherzusagen, um so das Verhalten des KNN und des Autonomen Fahrzeugs zu erklären. Zum zweiten werden Modelle für das Verhalten von Fußgängern und Radfahrern entwickelt, um diese realistisch simulieren zu können. In den Simulationen können dann KNN besser für das Autonome Fahren trainiert werden. Schließlich werden in einem Demonstrator die Prädiktionsmodelle mittels Hardware-Beschleunigung für den mobilen Einsatz im Fahrzeug optimiert, implementiert und getestet.
Universität zu Lübeck
Institut für Technische Informatik
Ratzeburger Allee 160
23562 Lübeck
Sie sehen gerade einen Platzhalterinhalt von YouTube. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr Informationen