TRAITS

Vertrauenswürdige KI mittels Propagation von Mengen

Motivation

Mit der Bekanntmachung zur „Förderung von deutsch französischen Projekten zum Thema Künstliche Intelligenz“ vom 1. Oktober 2020 wird ein vertiefter Wissenstransfer aus der Wissenschaft in die Wirtschaft sowie eine verbesserte Entwicklung innovativer Technologien in Deutschland und Europa, von der insbesondere KMU profitieren, gefördert. Die Förderbekanntmachung ist eingebettet in die nationale Strategie für Künstliche Intelligenz (KI). Mit der Umsetzung der Bekanntmachung wird insbesondere das Handlungsfeld „Forschung in Deutschland und Europa stärken, um Innovationstreiber zu sein“ der KI-Strategie adressiert. Fortschritte in der Künstlichen Intelligenz haben zur Entwicklung autonomer Agenten (Autos, Boote, Drohnen) geführt, die in einer dynamischen, offenen Umgebung agieren. Wie durch sehr bekannt gewordene Unfälle autonom fahrender Autos deutlich wurde, bleibt es eine große Herausforderung, deren Sicherheit zu gewährleisten.

Ziele und Vorgehen

Ziel des Verbundvorhabens „TRAITS“ ist es, eine zertifizierbare Sicherheitsebene zu entwickeln, Entscheidungen die von Künstlicher Intelligenz im Voraus überwacht und korrigiert. Der Ansatz basiert auf mathematisch rigorosen Techniken. Diese sogenannten formalen Methoden gewinnen in der Software-Industrie und auch in anderen Bereichen, wie z. B. bei cyber-physischen Systemen, immer mehr an Bedeutung. Mithilfe der Kombination von Ergebnissen früherer Zeiträume (Propagation von Mengen) sinkt der Rechenaufwand und eine Just-in-Time-Verifikation der Entscheidungen der Künstlichen Intelligenz wird möglich. Die geplante Sicherheitsebene soll nicht nur Unfälle vermeiden, sondern auch zu schnelleren und sichereren Trainingszyklen führen, indem sie zusätzliche Trainingsdaten aus automatisch generierten Familien von kritischen Trajektorien generieren kann. Verwandte Ansätze verwenden Optimierungsverfahren, die aufgrund von Erfüllbarkeitsproblemen, numerischen Fehlern oder hohen Rechenkosten teilweise keine gültige Lösung liefern. Im Gegensatz dazu soll der hier gewählte Ansatz sowohl mathematisch als auch numerisch korrekt und mit vorhersagbaren, niedrigen Laufzeiten implementiert werden können. Um die Vorzüge des Ansatzes zu demonstrieren, wird abschließend eine vergleichende Evaluierung mit Ansätzen aus der modellprädiktiven Regelung und klassischen Lernverfahren sowohl in Simulationen als auch in Realexperimenten durchgeführt. Unter anderem sollen Tests an einem autonomen Auto, einem autonomen Boot und einem Roboter erfolgen.

Innovationen und Perspektiven

Das Projekt wird dazu beitragen, die Wettbewerbsfähigkeit Deutschlands und Europas auf dem wachsenden Markt der sicheren Künstlichen Intelligenz zu festigen. Die zukünftige Marktposition von Unternehmen, die künstliche Intelligenz in den Bereichen Transport, Produktion und Energie entwickeln, wird durch ihre Fähigkeit bestimmt werden, flexibel einsatzbare Lösungen anzubieten, die nachweislich hohe Sicherheitsstandards erfüllen.

Projektinformation

Projektleitung

Technische Universität München
Boltzmannstr. 3
85748 Garching

Volumen

257.192,40 €

Laufzeit

05/2026 – 05/2026

Projektpartnerinnen und -partner

Technische Universität München - Lehrstuhl für Robotik, KI und Echtzeitsysteme École nationale supérieure de techniques avancées - ENSTA Paris