Förderung von Forschungsvorhaben zur Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz
Mit der Bekanntmachung „Förderung von Projekten zum Thema Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz“ sollen Forschungsvorhaben zur Erforschung und Entwicklung einer erklärbaren, transparenten und nachvollziehbaren Künstlichen Intelligenz (KI) gefördert werden. Die Fördermaßnahme ist Teil der Umsetzung der KI-Strategie der Bundesregierung und der Hightech-Strategie 2025. Durch die Fokussierung auf die Themen Nachvollziehbarkeit, Erklärbarkeit und Transparenz wird mit der Fördermaßnahme ein breiter und langfristiger Nutzen für die verschiedensten Anwender von KI ausgehen. Hierbei werden durch das BMBF insbesondere Verbundprojekte gefördert, die aus interdisziplinären Kooperationen zwischen der Informatik und angrenzenden Disziplinen wie Wahrnehmungspsychologie und Kognitionswissenschaften, Mathematik und Physik bestehen. Mit der Förderung von Forschungsvorhaben im Bereich KI schafft das BMBF die Grundlage für weitere Innovationen mit hohem gesamtwirtschaftlichem Potenzial und trägt damit zur Stärkung des Wirtschafts- und Wissenschaftsstandortes Deutschland bei.
Neuronale Netze mit moderner Physik verstehen
Künstliche Intelligenz (KI) – für kaum eine andere Schlüsseltechnologie werden Chancen und mögliche Gefahren im gesellschaftlichen Diskurs aktuell so kontrovers diskutiert. Künstliche neuronale Netzwerke spielen eine zentrale Rolle in modernen KI-Systemen, die zu wichtigen Verbesserungen, z. B. in der Medizin, beitragen können. Sie sind in der Lage, Zusammenhänge direkt aus Daten zu extrahieren und auf diese Weise präzise Voraussagen und Entscheidungen zu treffen. Ein derzeitiges Problem ist jedoch, die Entscheidungen für den Menschen nachvollziehbar und damit verständlich sowie überprüfbar zu machen. Besonders im medizinischen Bereich ist diese Transparenz wesentlich, z. B. für Systeme, die diagnostische Entscheidungen treffen oder sogar medizinische Eingriffe kontrollieren.
Das interdisziplinäre Vorhaben RenormalizedFlow vereint Neurowissenschaften, Informatik, statistische Physik und Medizin, um grundlegende Fortschritte für die Transparenz und Interpretierbarkeit tiefer neuronaler Netzwerke zu liefern. Diese Netzwerke bestehen aus einer Hintereinanderschaltung vieler Schichten künstlicher Neuronen, die eingehende Daten, Schritt für Schritt, nach problem-abhängigen Kriterien in Substrukturen zerlegen. Diese Zerlegung ist jedoch so komplex, dass sie für einen Menschen nicht direkt nachvollziehbar ist. Um die Zerlegung zu verstehen, greift das Projekt auf die sogenannte Renormierungsgruppe zurück, eine der größten Errungenschaften der theoretischen Physik des 20. Jahrhunderts. Diese Methodik wurde entwickelt, um Prozesse zu analysieren, die sich erst aus dem Zusammenspiel einer Vielzahl von Teilprozessen ergeben. Ein Teilprozess entspricht hier einer Schicht des Netzwerks. Diese Technik wird mit einer weiteren neuen Entwicklung kombiniert, den invertierbaren, d. h. umkehrbaren tiefen Netzwerken. Diese erlauben nicht nur die Extraktion der zugrundeliegenden Zerlegung in Substrukturen aus den Daten, sondern gleichzeitig auch deren Umkehrung: das Erzeugen der plausibelsten Daten, die zu einer Zerlegung in Substrukturen gehören. Somit werden identifizierte Substrukturen direkt überprüfbar. Die so gewonnenen Einsichten sollen zum einen für den Menschen nachvollziehbare Erklärungen für getroffene Entscheidungen liefern, zum anderen sollen sie ermöglichen, neuronale Netzwerke gezielt zu optimieren.
Forschungszentrum Jülich GmbH
Institut für Neurowissenschaften und Medizin (INM-6)
Building 15.22
52425 Jülich
Sie sehen gerade einen Platzhalterinhalt von YouTube. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr Informationen