Förderung von Forschungsvorhaben zur Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz

Mit der Bekanntmachung „Förderung von Projekten zum Thema Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz“ sollen Forschungsvorhaben zur Erforschung und Entwicklung einer erklärbaren, transparenten und nachvollziehbaren Künstlichen Intelligenz (KI) gefördert werden. Die Fördermaßnahme ist Teil der Umsetzung der KI-Strategie der Bundesregierung und der Hightech-Strategie 2025. Durch die Fokussierung auf die Themen Nachvollziehbarkeit, Erklärbarkeit und Transparenz wird mit der Fördermaßnahme ein breiter und langfristiger Nutzen für die verschiedensten Anwender von KI ausgehen. Hierbei werden durch das BMBF insbesondere Verbundprojekte gefördert, die aus interdisziplinären Kooperationen zwischen der Informatik und angrenzenden Disziplinen wie Wahrnehmungspsychologie und Kognitionswissenschaften, Mathematik und Physik bestehen. Mit der Förderung von Forschungsvorhaben im Bereich KI schafft das BMBF die Grundlage für weitere Innovationen mit hohem gesamtwirtschaftlichem Potenzial und trägt damit zur Stärkung des Wirtschafts- und Wissenschaftsstandortes Deutschland bei.

Effizientes Nachtraining von Künstlicher Intelligenz

Mit Maschinellem Lernen (ML) lassen sich anhand von Daten komplexe Zusammenhänge modellieren. Somit können aufwändige und oft grob vereinfachte mathematische Modellierungen bestimmter Gegebenheiten umgangen werden. Außerdem eröffnet sich zudem eine neuartige Funktionalität: ML-Modelle können datengetrieben an geänderte Anforderungen und Bedingungen angepasst werden. Um eine regelmäßige Anpassung zu erreichen, werden Daten während des Gebrauchs eines Modells gesammelt und das Modell unter Berücksichtigung dieser Information neu trainiert, es findet also ein episodisches Update des ML-Modells statt. Die enorme Flexibilität dieser Methode geht mit zwei zentralen Herausforderungen einher: Für ein, in der Regel durch einen menschlichen Nutzer überwachtes, Nachtraining wird oft eine aufwändige manuelle Annotation und Aufbereitung der Daten benötigt. Außerdem ist unklar, wie die Validität des Modells nach einem Update garantiert werden kann, wenn keine oder nur wenige annotierte Daten zur Verfügung stehen. Diese Herausforderungen können im Allgemeinen nicht vollständig automatisiert gelöst werden, sondern erfordern eine Einbeziehung des Nutzers und seines Expertenwissens in den Lernprozess. Um diese Integration von Expertenwissen effizient und über die manuelle Annotation von Daten hinaus im episodischen interaktiven Lernen zu ermöglichen, spielt Erklärbarkeit eine entscheidende Rolle.