Förderung von Forschungsvorhaben zur Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz

Mit der Bekanntmachung „Förderung von Projekten zum Thema Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz“ sollen Forschungsvorhaben zur Erforschung und Entwicklung einer erklärbaren, transparenten und nachvollziehbaren Künstlichen Intelligenz (KI) gefördert werden. Die Fördermaßnahme ist Teil der Umsetzung der KI-Strategie der Bundesregierung und der Hightech-Strategie 2025. Durch die Fokussierung auf die Themen Nachvollziehbarkeit, Erklärbarkeit und Transparenz wird mit der Fördermaßnahme ein breiter und langfristiger Nutzen für die verschiedensten Anwender von KI ausgehen. Hierbei werden durch das BMBF insbesondere Verbundprojekte gefördert, die aus interdisziplinären Kooperationen zwischen der Informatik und angrenzenden Disziplinen wie Wahrnehmungspsychologie und Kognitionswissenschaften, Mathematik und Physik bestehen. Mit der Förderung von Forschungsvorhaben im Bereich KI schafft das BMBF die Grundlage für weitere Innovationen mit hohem gesamtwirtschaftlichem Potenzial und trägt damit zur Stärkung des Wirtschafts- und Wissenschaftsstandortes Deutschland bei.

Gehirnforschung verbessert Transparenz künstlicher neuronaler Netze

Künstliche Intelligenz (KI) – für kaum eine andere Schlüsseltechnologie werden Chancen und mögliche Gefahren im gesellschaftlichen Diskurs aktuell so kontrovers diskutiert. Unbestritten ist, dass die zu erwartenden Veränderungen und Auswirkungen dieser Technologie nahezu alle Lebens- und Wirtschaftsbereiche betreffen werden. Damit einhergehend stellt sich für die Entwickler neuer KI-Algorithmen eine ganz wesentliche Herausforderung: Wie können wir Methoden und Modelle dazu bringen, eine gestellte Aufgabe nicht nur bestmöglich im Sinne des eigentlichen Optimierungsziels sondern gleichzeitig auch transparent und erkenntnisbringend für den Anwender zu lösen? Je stärker selbstlernende Algorithmen in industrielle, wissenschaftliche und die Öffentlichkeit betreffende Prozesse und Systeme integriert werden, desto zentraler ist es, die trainierten Modelle nicht als bloße „Black-Box“ Lösungen zu begreifen. Besonders beliebt im Bereich KI sind künstliche neuronale Netze (KNNs): selbst-lernende Systeme, die an den Aufbau natürlicher Gehirne angelehnt sind. Durch leistungsstarke Computer können immer mehr künstliche Neuronen zum Lernen verwendet werden. Die Komplexität dieser Netze erschwert es auch, ihre inneren Prozesse und Entscheidungen nachzuvollziehen. Zur sicheren Verwendung von KNNs ist es allerdings notwendig, deren Funktionsweise umfassend zu verstehen. Natürliche Gehirne werden schon seit über 50 Jahren erforscht. Da KNNs vom Gehirn inspiriert sind, können Methoden aus den Neurowissenschaften genutzt werden, um hochkomplexe KNNs zu analysieren und ihre Funktionsweise bildlich zu veranschaulichen. Im Vorhaben CogXAI werden etablierte neurowissenschaftliche Verfahren auf KNNs übertragen. Dadurch werden auch deren Lernprozesse besser nachvollziehbar. So ist gelerntes Fehlverhalten schon im Entstehen erkennbar und es können entsprechende Gegenmaßnahmen ergriffen werden. Darüber hinaus bieten die kognitiven Neurowissenschaften auch viele Erkenntnisse über das Lernverhalten des menschlichen Gehirns. Dieser Erfahrungsschatz wird im Projekt CogXAI genutzt, um neuartige kognitiv inspirierte KNN-Architekturen zu designen. Diese Übertragung kognitiver Konzepte auf KNNs wird ebenso die Nachvollziehbarkeit von KNN-basierten Systemen verbessern.