Beim Autonomen Fahren oder in der Industrie 4.0 – Künstliche Intelligenz (KI) übernimmt künftig wichtige Aufgaben und muss insbesondere in sicherheitskritischen Anwendungen zuverlässig arbeiten. Damit die Funktionsweise und Entscheidungsfindung von KI-Systemen transparent und nachvollziehbar ist und Unternehmen KI-Anwendungen auch im Hinblick bevorstehender Standards und Gesetze wie dem europäischen AI ACT nachweislich zuverlässig gestalten können, arbeitet das Flagship-Projekt ZERTIFIZIERTE KI der Kompetenzplattform KI.NRW an konkreten Lösungen. So entwickeln im Projekt die Wissenschaftler*innen des Fraunhofer IAIS gemeinsam mit Partnern, unter anderem dem Deutschen Institut für Normung (DIN) und dem Bundesamt für Sicherheit in der Informationstechnik (BSI), standardisierbare Prüfverfahren »made in Germany«.

Auf der Hannover Messe 2022 erhalten Unternehmen am Stand des Landes Nordrhein-Westfalen (Halle 11, Stand B13) konkrete Einblicke in das Projekt ZERTIFIZIERTE KI. So veranschaulicht der Demonstrator »uncertAInty explorer« das Prinzip der Unsicherheitsschätzung, mit welcher die Lücken einer KI-Analyse sichtbar werden, etwa bei der Einschätzung von Verkehrssituationen im Autonomen Fahren. »Bei hoch-automatisierten KI-Entscheidungen ist es wichtig beurteilen zu können, wie sicher sich eine KI mit ihrem Ergebnis ist. Konkret muss ein autonomes Fahrzeug zum Beispiel Objekte und Menschen in seiner Umgebung zuverlässig erkennen können, damit es angemessen darauf reagieren kann. Die Unsicherheitsbewertung hilft hierbei zu messen, wie stark man der Entscheidung des Systems vertrauen kann oder ob bestimmte Fallback-Mechanismen aktiviert werden müssen«, erklärt Dr. Maximilian Poretschkin, Leiter KI-Absicherung und -Zertifizierung am Fraunhofer IAIS und Konsortialleiter des Projekts. Daneben könne das Verfahren auch in vielen anderen Anwendungsbereichen sinnvoll sein, beispielsweise in einer Fertigungsstraße zur Qualitätssicherung von Produkten, um dort Ausschuss zu verringern und Qualitätseinbußen zu reduzieren.  

Neben der technischen Umsetzung von Transparenz und Nachvollziehbarkeit in KI-Technologien kommt es auch zunehmend darauf an, die Qualität, Sicherheit und Zuverlässigkeit von KI-Systemen nachweisen zu können. Hierfür entwickelt das Projekt ZERTIFIZIERTE KI entsprechende Prüfverfahren, die Unternehmen bei der Entwicklung oder KI-Prüfer*innen bei der Evaluation von KI-Anwendungen unterstützen. »Ein wesentlicher Fokus unserer Forschung ist die Entwicklung von Prüfmethoden und -Werkzeugen, um die Qualität von KI-Systemen unabhängig begutachten zu können. Eine KI-Prüfung kann die korrekte und sichere Funktionsweise sicherstellen und gleichzeitig das Vertrauen in und die Akzeptanz von KI-Anwendungen fördern«, sagt Poretschkin. Das belege auch eine Studie des Fraunhofer IAIS zum Einfluss von KI-Managementsystemen auf die Vertrauenswürdigkeit Künstlicher Intelligenz, die im Oktober 2021 veröffentlicht wurde.

Mit kostenfreiem Ticket Experten-Vorträge vor Ort ansehen

Unter dem Motto »Let’s create the industry of tomorrow« findet die größte deutsche Industriemesse vom 30. Mai bis 2. Juni 2022 auf dem Messegelände in Hannover statt. Das Projekt ZERTIFIZIERTE KI lädt Interessierte mit kostenfreien Fachbesuchertickets auf die Hannover Messe ein. Das begleitende Vortragsprogramm wird größtenteils via Livestream online übertragen. Interessierte sind besonders willkommen, die folgenden Vorträge der Wissenschaftler des Fraunhofer IAIS zum Thema »Prüfgrundlagen und Werkzeuge zum Nachweis der Vertrauenswürdigkeit von KI-Systemen« zu besuchen:

• Dienstag, 31. Mai, 11.00 bis 12.00 Uhr: Dr. Maximilian Poretschkin, Fraunhofer IAIS, Gemeinschaftsstand Fraunhofer-Gesellschaft in Halle 5, Stand A06
• Donnerstag, 2. Juni, 12.40 bis 13.05 Uhr: Daniel Becker, Fraunhofer IAIS, Tech Transfer Stage in Halle 2, Stand A60, inkl. Livestream