Förderung von Forschungsvorhaben zur Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz Mit der Bekanntmachung „Förderung von Projekten zum Thema Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz“ sollen Forschungsvorhaben zur Erforschung und Entwicklung einer erklärbaren, transparenten und nachvollziehbaren Künstlichen Intelligenz (KI) gefördert werden. Die Fördermaßnahme ist Teil der Umsetzung der KI-Strategie der Bundesregierung und der Hightech-Strategie 2025. Durch die Fokussierung auf die Themen Nachvollziehbarkeit, Erklärbarkeit und Transparenz wird mit der Fördermaßnahme ein breiter und langfristiger Nutzen für die verschiedensten Anwender von KI ausgehen. Hierbei werden durch das BMBF insbesondere Verbundprojekte gefördert, die aus interdisziplinären Kooperationen zwischen der Informatik und angrenzenden Disziplinen wie Wahrnehmungspsychologie und Kognitionswissenschaften, Mathematik und Physik bestehen. Mit der Förderung von Forschungsvorhaben im Bereich KI schafft das BMBF die Grundlage für weitere Innovationen mit hohem gesamtwirtschaftlichem Potenzial und trägt damit zur Stärkung des Wirtschafts- und Wissenschaftsstandortes Deutschland bei. Erklärbare Künstliche Intelligenz zur Unterstützung der Entscheidungsfindung Im Bereich der Künstlichen Intelligenz (KI) sind Black-Box-Modelle gegenüber konventionellen Verfahren zwar überlegen, liefern allerdings keine Erklärung über das Zustandekommen ihrer Entscheidungen und Handlungsempfehlungen. Diese mangelnde Nachvollziehbarkeit führt zu Vorbehalten gegenüber dem Einsatz dieser Technologien. Darüber hinaus stellen sich Fragen bezüglich Rechtssicherheit, Ethik und Kundenorientierung der Anwendung. Hier setzt Explainable Artificial Intelligence (XAI) an, die dem Anwender Entscheidungen und Verhaltensweisen des Systems erklärt. Die aktuellen Forschungs- und Entwicklungstätigkeiten in der XAI Domäne lassen jedoch relevante Aspekte außer Acht: Mit Ausnahme der Intuition des Forschers hinsichtlich der Qualität einer Erklärung werden interaktive, menschliche, organisatorische und ökonomische Aspekte oftmals nicht beachtet. Auch Eigenschaften von Erklärungen und Problemstellungen werden oftmals nicht berücksichtigt. Daher besteht ein großer Bedarf an einem Ansatz zur Entwicklung und Gestaltung von Erklärungsmodellen und entsprechenden Schnittstellen – dieser soll zukünftig als Leitfaden genutzt werden können.