Förderung von Forschungsvorhaben zur Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz

Mit der Bekanntmachung „Förderung von Projekten zum Thema Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz“ sollen Forschungsvorhaben zur Erforschung und Entwicklung einer erklärbaren, transparenten und nachvollziehbaren Künstlichen Intelligenz (KI) gefördert werden. Die Fördermaßnahme ist Teil der Umsetzung der KI-Strategie der Bundesregierung und der Hightech-Strategie 2025. Durch die Fokussierung auf die Themen Nachvollziehbarkeit, Erklärbarkeit und Transparenz wird mit der Fördermaßnahme ein breiter und langfristiger Nutzen für die verschiedensten Anwender von KI ausgehen. Hierbei werden durch das BMBF insbesondere Verbundprojekte gefördert, die aus interdisziplinären Kooperationen zwischen der Informatik und angrenzenden Disziplinen wie Wahrnehmungspsychologie und Kognitionswissenschaften, Mathematik und Physik bestehen. Mit der Förderung von Forschungsvorhaben im Bereich KI schafft das BMBF die Grundlage für weitere Innovationen mit hohem gesamtwirtschaftlichem Potenzial und trägt damit zur Stärkung des Wirtschafts- und Wissenschaftsstandortes Deutschland bei.

Einschätzung der Unsicherheit von Entscheidungen bei Deep Learning Methoden

In allen Bereichen der Gesellschaft werden zunehmend KI-Methoden wie Deep Learning (DL) eingesetzt, so u. a. sehr erfolgreich in der Vorhersage von Ereignissen. Entscheidungen solcher Methoden sind allerdings schwer nachvollziehbar, wenn sie auf komplexe Eingangsdaten (z. B. Bilder) angewendet werden. Um die Nachvollziehbarkeit von Methoden und deren Resultaten zu erhöhen, können bereits heute spezielle Verfahren zur Darstellung genutzt werden. Dabei fehlt oft die Möglichkeit, die Modellgenauigkeit bei etablierten DL-Verfahren einzuschätzen, so dass Benutzer von KI-Systemen die Ergebnisse nicht richtig einordnen können. In der Praxis ist daher ein Mechanismus notwendig, mit dem man erkennt, wenn trainierte und somit bekannte Situationen verlassen werden und damit einschätzen kann, wie groß die Unsicherheit einer Vorhersage oder Entscheidung ist. Dies ist insbesondere im Hinblick auf die Nutzung von DL in kritischen und nicht komplett im Labor simulierbaren Anwendungen, wie dem autonomen Fahren, wichtig. Verfahren, die Unsicherheit modellieren können, waren bisher wegen zu hoher Anforderungen an die Rechenzeit nicht anwendbar. Neuere Näherungsansätze skalieren auch auf tiefe neuronale Netze und sollen hier eingesetzt werden.