Neuer Qualitätsstandard für Niedrigrisiko-KI vorgestellt – Fraunhofer IAIS bringt Expertise zu Prüfung und Technik ein

News /

Die Initiative MISSION KI hat einen Qualitätsstandard und ein digitales Prüfportal für KI-Systeme unterhalb der Hochrisikoschwelle veröffentlicht. Ziel ist es, Unternehmen einen strukturierten Rahmen zur Bewertung zentraler Qualitätsmerkmale wie Transparenz, Nicht-Diskriminierung und Verlässlichkeit bereitzustellen. Für diesen Bereich sieht der EU AI Act bislang nur die Transparenzpflichten vor.

© MISSION KI

Der MISSION KI-Qualitätsstandard überführt diese Prinzipien in sechs Qualitätsdimensionen mit klaren Kriterien und Maßnahmen und ermöglicht ein schrittweises Prüfverfahren. Eine Schutzbedarfsanalyse legt fest, welche Anforderungen im jeweiligen Anwendungskontext im Vordergrund stehen. Am Ende des Verfahrens steht ein Prüfbericht, der den Erfüllungsgrad der Anforderungen dokumentiert und Verbesserungsbedarfe sichtbar macht.

An der Entwicklung des Standards waren Akteure aus Forschung, Normung, Prüfwesen und Beratung beteiligt, darunter auch das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS. Der Entwicklungsprozess wurde über zwei Jahre hinweg gemeinsam mit PwC Deutschland, TÜV AI.Lab, dem VDE sowie dem AI Quality & Testing Hub gestaltet und anhand realer KI-Systeme in Kooperation mit Industriepartnern erprobt.

Beitrag des Fraunhofer IAIS

Wissenschaftlerinnen und Wissenschaftler des Fraunhofer IAIS wirkten maßgeblich an der konzeptionellen Entwicklung mit. Elemente aus dem KI-Prüfkatalog des Fraunhofer IAIS – darunter die Schutzbedarfsanalyse und die Einbindung technischer Tests – wurden in den Standard integriert und mit dem VCIO-Ansatz des VDE-Trust-Labels verbunden.

Unter Leitung des Fraunhofer IAIS wurden außerdem die Pilotprüfungen des Standards an verschiedenen industriellen Use Cases durchgeführt. Die Rückmeldungen aus diesen Tests flossen in die Weiterentwicklung des Verfahrens ein. Für das Prüfverfahren entstand ein modulares Backend, das unterschiedliche technische Werkzeuge in einen einheitlichen Workflow integriert. Die Veröffentlichung dieser Komponente als Open-Source-Baustein ist in den kommenden Wochen vorgesehen.

Digitales Prüfportal ergänzt den Standard

Parallel zum Standard wurde ein digitales Prüfportal veröffentlicht, das das Verfahren in einer Beta-Version abbildet. Unternehmen können die Bewertung ihrer KI-Systeme dort eigenständig durchführen; geführte Abläufe und Hilfestellungen unterstützen die strukturierte Bearbeitung. Perspektivisch soll das Portal um automatisierbare Prüfschritte und Schnittstellen zu akkreditierten Prüfstellen erweitert werden.

Der Qualitätsstandard und das Prüfportal richten sich an Unternehmen, die KI-Systeme entwickeln oder einsetzen und Anforderungen des EU AI Act frühzeitig adressieren möchten. Auch für öffentliche Beschaffungsstellen können die Kriterien eine Grundlage zur strukturierten