Förderung von Forschungsvorhaben zur Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz

Mit der Bekanntmachung „Förderung von Projekten zum Thema Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz“ sollen Forschungsvorhaben zur Erforschung und Entwicklung einer erklärbaren, transparenten und nachvollziehbaren Künstlichen Intelligenz (KI) gefördert werden. Die Fördermaßnahme ist Teil der Umsetzung der KI-Strategie der Bundesregierung und der Hightech-Strategie 2025. Durch die Fokussierung auf die Themen Nachvollziehbarkeit, Erklärbarkeit und Transparenz wird mit der Fördermaßnahme ein breiter und langfristiger Nutzen für die verschiedensten Anwender von KI ausgehen. Hierbei werden durch das BMBF insbesondere Verbundprojekte gefördert, die aus interdisziplinären Kooperationen zwischen der Informatik und angrenzenden Disziplinen wie Wahrnehmungspsychologie und Kognitionswissenschaften, Mathematik und Physik bestehen. Mit der Förderung von Forschungsvorhaben im Bereich KI schafft das BMBF die Grundlage für weitere Innovationen mit hohem gesamtwirtschaftlichem Potenzial und trägt damit zur Stärkung des Wirtschafts- und Wissenschaftsstandortes Deutschland bei.

Gehirnforschung verbessert Transparenz künstlicher neuronaler Netze

Künstliche Intelligenz (KI) – für kaum eine andere Schlüsseltechnologie werden Chancen und mögliche Gefahren im gesellschaftlichen Diskurs aktuell so kontrovers diskutiert. Unbestritten ist, dass die zu erwartenden Veränderungen und Auswirkungen dieser Technologie nahezu alle Lebens- und Wirtschaftsbereiche betreffen werden. Damit einhergehend stellt sich für die Entwickler neuer KI-Algorithmen eine ganz wesentliche Herausforderung: Wie können wir Methoden und Modelle dazu bringen, eine gestellte Aufgabe nicht nur bestmöglich im Sinne des eigentlichen Optimierungsziels sondern gleichzeitig auch transparent und erkenntnisbringend für den Anwender zu lösen? Je stärker selbstlernende Algorithmen in industrielle, wissenschaftliche und die Öffentlichkeit betreffende Prozesse und Systeme integriert werden, desto zentraler ist es, die trainierten Modelle nicht als bloße „Black-Box“ Lösungen zu begreifen. Besonders beliebt im Bereich KI sind künstliche neuronale Netze (KNNs): selbst-lernende Systeme, die an den Aufbau natürlicher Gehirne angelehnt sind. Die Komplexität dieser Netze erschwert es auch, ihre inneren Prozesse und Entscheidungen nachzuvollziehen und vor allem ihre Dynamik zu verstehen.