Förderung von Forschungsvorhaben zur Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz

Mit der Bekanntmachung „Förderung von Projekten zum Thema Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz“ sollen Forschungsvorhaben zur Erforschung und Entwicklung einer erklärbaren, transparenten und nachvollziehbaren Künstlichen Intelligenz (KI) gefördert werden. Die Fördermaßnahme ist Teil der Umsetzung der KI-Strategie der Bundesregierung und der Hightech-Strategie 2025. Durch die Fokussierung auf die Themen Nachvollziehbarkeit, Erklärbarkeit und Transparenz wird mit der Fördermaßnahme ein breiter und langfristiger Nutzen für die verschiedensten Anwender von KI ausgehen. Hierbei werden durch das BMBF insbesondere Verbundprojekte gefördert, die aus interdisziplinären Kooperationen zwischen der Informatik und angrenzenden Disziplinen wie Wahrnehmungspsychologie und Kognitionswissenschaften, Mathematik und Physik bestehen. Mit der Förderung von Forschungsvorhaben im Bereich KI schafft das BMBF die Grundlage für weitere Innovationen mit hohem gesamtwirtschaftlichem Potenzial und trägt damit zur Stärkung des Wirtschafts- und Wissenschaftsstandortes Deutschland bei.

Erklärende KI für Komplexe Lineare Programme

Technische und soziale Systeme werden immer komplexer. Künstliche Intelligenz (KI) hat das Potenzial, Planungen und Entscheidungen in solchen komplexen Systemen essentiell zu unterstützen. Durch KI und maschinelles Lernen gewonnene Vorhersagen und Handlungsstrategien für komplexe Systeme entziehen sich aber bisher einfachen und transparenten Erklärungen. Das liegt an der Größe solcher Systeme und vielen internen Wechselwirkungen, aber auch an der Komplexität und Intransparenz der eingesetzten KI-Methoden. Bei vielen Planungen und Entscheidungen sind Menschen jedoch direkt beteiligt und betroffen, z.B. bei schwerwiegenden Investitionsentscheidungen, politischen Entscheidungen, Therapieempfehlungen etc. Daher ist es wichtig, für Vorhersagen und Handlungsstrategien in komplexen Systemen kognitiv adäquate Erklärungen zu finden. Ausgangspunkt von „PlexPlain“ ist die Einsicht, dass die lineare Programmierung, also die Optimierung von Zielfunktionen auf Basis linearer Gleichungen, eine grundlegende KI-Methode ist, die sehr häufig für Optimierung und Planung in komplexen Systemen eingesetzt wird. Auch einige aktuelle Vorhersagemethoden, die auf neuronalen Netzen beruhen, und das sogenannte Verstärkungslernen, also das Erlernen durch Belohnung bei Erfolg, das zunehmend angewendet wird, lassen sich durch lineare Programmierung analysieren. In Anwendungen eingesetzte lineare Programme können leicht Millionen von Variablen enthalten, deren Zusammenwirken oft auch für Experten nur schwer verständlich ist. Damit bilden lineare Programme eine große Klasse an Problemen, für die dringend kognitiv adäquate Erklärungen benötigt werden.