Große (Sprach-)Modelle wie ChatGPT liefern oftmals beeindruckende Ergebnisse. Gleichzeitig machen sie unerwartete Fehler, die zeigen, dass die Programme teilweise anders funktionieren als erwartet und nur bedingt auf menschliches Verhalten ausgerichtet sind. Das Forschungsvorhaben „OPENHAFM“ zielt deshalb darauf ab, die Leistungsfähigkeit und Zuverlässigkeit von maschinellen Lernmodellen durch die Ausrichtung auf robustes menschliches Urteilsvermögen zu verbessern. Dabei wird eine größere Übereinstimmung von menschlichem und maschinellem Verhalten angestrebt und resilientes Urteilsvermögen in vortrainierte Modelle integriert.
Zunächst werden Defizite im logischen Schließen der Modelle und Fehlanpassungen zwischen menschlichem und maschinellem Verhalten analysiert und neue Methoden zur Datenauswahl und aufbereitung entwickelt. Dazu setzt „OPENHAFM“ manuell kuratierte Benchmark-Datensätze, optimierungsbasierte Methoden und halbautomatische Entdeckungsverfahren ein. Das Projekt erforscht auch, wie sich Eigenschaften und Fähigkeiten von verbesserten Modellen mit steigender Modellgröße, Trainingsdaten sowie -dauer verändern. Es werden gezielte Ansätze entwickelt, wie Trainingsdaten angereichert oder der Lernprozess angepasst werden können, um bessere, flexiblere und effizientere Modelle zu bekommen. Dies beinhaltet die Erstellung synthetischer Datensätze, gezielte Datenanpassungen und Einführung von aktiven Lernmethoden.
Die Neuartigkeit dieses Projekts liegt in der gezielten funktionalen Ausrichtung von großen Modellen auf robustes menschliches Verhalten und logisches Denken. Die erhöhte Konsistenz zwischen Mensch und Maschine und die bessere Skalierung der Modelle können nicht nur die wissenschaftliche Gemeinschaft voranbringen, sondern auch erhebliche wirtschaftliche Vorteile bieten, indem die Einsatzmöglichkeiten dieser Modelle in kritischen Bereichen erweitert werden. Langfristig könnte dies zu Fortschritten in der Medizin, dem autonomen Fahren und anderen sicherheitskritischen Anwendungen führen.
Max-Planck-Institut für Intelligente Systeme
Max-Planck-Ring 4
72076 Tübingen
Sie sehen gerade einen Platzhalterinhalt von YouTube. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr Informationen