Hannover Messe 2024

Lösungen für leistungsfähige und vertrauenswürdige Künstliche Intelligenz

KI-Lösungen für die Industrie müssen leistungsfähig, vertrauenswürdig und sicher sein, um beispielsweise in der Serienproduktion oder Qualitätskontrolle eingesetzt zu werden. Auf der Hannover Messe 2024 präsentieren das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS und die Institute der Fraunhofer-Allianz Big Data AI zwei Exponate und mehrere Use Cases rund um vertrauenswürdige KI-Lösungen.

Vom 22. bis 26. April 2024 können Besucher der Hannover Messe am Fraunhofer-Gemeinschaftsstand in Halle 2 (Stand B24) ein Prüfwerkzeug für KI-Modelle kennen lernen, das die systematische Suche nach Schwachstellen von KI-Systemen ermöglicht. Ein interaktives Spiel ermöglicht eine Reflexion über die Frage, welche Entscheidungen wir KI-Algorithmen überlassen wollen und welche nicht.

Die verbindende Fragestellung beider Exponate lautet: Wie lässt sich KI-Technologie kontrolliert und sicher einsetzen?

© PaulShlykov - stock.adobe.com / Oleksii - stock.adobe.com / Fraunhofer IAIS
Ein systematisches Vorgehen in Kombination mit KI-Prüftools hilft dabei, Schwächen von KI-Modellen ausfindig zu machen.

Exponat 1: »KI-Zuverlässigkeit in der Produktion«: Prüftools zum systematischen Testen von KI-Modellen

 

Ein Prüfwerkzeug für KI-Modelle, die in der Produktion sowie im Maschinen- und Anlagenbau eingesetzt werden, ermöglicht die systematische Schwachstellensuche von KI-Systemen, um so deren Zuverlässigkeit und Robustheit sicherzustellen.

Unsere Methodik beruht darauf, den Anwendungsbereich des KI-Systems genau zu spezifizieren. Konkret geht es darum, den Raum der möglichen Eingaben, die das KI-System verarbeitet, zu parametrisieren und mit einer semantischen Struktur zu versehen. Mit den KI-Prüfwerkzeugen, die wir unter anderem im KI.NRW-Flagship-Projekt »Zertifizierte KI« entwickelt haben, lassen sich dann Fehler der KI-Systeme erkennen.

In dem Forschungsprojekt werden gemeinsam mit Partnern Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz entwickelt: Unternehmen erhalten mit dem KI-Prüfkatalog einen praxisorientierten Leitfaden, der sie befähigt, ihre KI-Systeme leistungsfähig und vertrauenswürdig zu gestalten.

Ein aktuelles Whitepaper beschäftigt sich zudem mit der Frage, wie mit Generativer KI und Foundation-Modellen entwickelte KI-Anwendungen bewertet und gesichert werden können.

© Fraunhofer IAIS
Im Wissenschaftsjahr 2024 steht das Thema Freiheit mit all seinen Facetten im Mittelpunkt. Erfahren Sie, wie Künstliche Intelligenz unsere Freiheit beeinflusst. Und was Fraunhofer tut, um KI-Systeme in sicherheitsrelevanten Bereichen noch vertrauenswürdiger, leistungsfähiger und zuverlässiger zu machen.

Exponat 2: »Who’s deciding here?!«: Was kann Künstliche Intelligenz entscheiden und was noch nicht?

 

Das Gemeinschaftsexponat der Fraunhofer-Allianz Big Data AI greift mit dem Titel »Who’s deciding here?!« das Thema »Freiheit« des Wissenschaftsjahrs 2024 des Bundesministeriums für Bildung und Forschung auf: Wie beeinflussen Technologien wie Künstliche Intelligenz unsere Entscheidungsfreiheit? Wie vertrauenswürdig sind die KI-Systeme, die in immer mehr sensiblen Anwendungen zum Einsatz kommen sollen?

Das Exponat ist als interaktives Spiel gestaltet, bei dem Interessierte den Einsatz von KI im Alltag reflektieren können. Welche Entscheidungen können und wollen wir KI-Algorithmen überlassen, und welche sollten wir besser selbst treffen?  

Use Cases für professionelle Anwendungen

Außerdem präsentieren die Institute der Fraunhofer-Allianz Big Data AI mehrere konkrete Anwendungsbeispiele aus verschiedenen Anwendungsbereichen. Die verbindende Fragestellung aller Use Cases: Wie lässt sich KI-Technologie kontrolliert und sicher einsetzen?

Mit ihren Lösungen leisten die Fraunhofer-Forscherinnen und Forscher einen wichtigen Beitrag in Hinblick auf technologische Souveränität und Unabhängigkeit deutscher Unternehmen: Gerade die aktuelle Entwicklung von Generativer KI zeigt das riesige Potenzial, aber auch die Herausforderungen dieser Zukunftstechnologie in Hinblick auf Sicherheit, Transparenz und Datenschutz auf.

Weitere Informationen

 

KI-Anwendungen mit Foundation-Modellen

Das Whitepaper »Vertrauenswürdige KI-Anwendungen mit Foundation-Modellen entwickeln« erläutert, wie sich spezielle Risiken der Foundation-Modelle auf die KI-Anwendung auswirken können.

Die Fraunhofer-Gesellschaft auf der Hannover Messe 2024

Künstliche Intelligenz, Wasserstoff und klimaschonende Produktion sind die großen Themen auf der diesjährigen Hannover Messe.

ZERTIFIZIERTE KI

Künstliche Intelligenz sicher und vertrauens­würdig gestalten mittels Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz