Projekt ZERTIFIZIERTE KI

Prüfverfahren für eine KI-Zertifizierung »made in Germany«

Die rasante Entwicklung der Künstlichen Intelligenz (KI) eröffnet große Chancen für neue technische Anwendungen, digitale Businessmodelle und bietet praktische Erleichterungen im Alltagsleben. Während KI-Systeme immer komplexere Aufgaben übernehmen und zunehmend autonom agieren, erfordert der Umgang mit der Technologie ein hohes Maß an Verantwortung. Dabei helfen prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen und die auch Anwendenden sowie Verbraucher*innen Auskunft über zugesicherte Eigenschaften von KI-Technologien geben.

Im Rahmen einer strategischen Kooperation entwickeln Expert*innen des BSI und des Fraunhofer IAIS Prüfverfahren für KI-Systeme. Ziel der Kooperation ist es, technische Produkt- und Prozessprüfungen von KI-Systemen in der Wirtschaft zu etablieren und die Entwicklung einer KI-Zertifizierung »made in Germany« voranzubringen.

Um die Praxistauglichkeit und Marktfähig­keit der Prüfverfahren sicherzustellen, arbeiten die Partner mit renommierten Institutionen aus Forschung und Anwendung zusammen. Hierbei werden industrielle Bedarfe durch die aktive Einbindung von zahlreichen assoziierten Unternehmen und Organisationen berücksichtigt, welche unterschiedliche Branchen wie etwa Telekommunikation, Banken, Versicherungen, Chemie, und Handel repräsentieren. Mit diesem breiten Beteiligungsprozess wird sichergestellt, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln und gleichzeitig durch rechtliche, ethische und philosophische Betrachtungen flankiert werden.

Das Flagship-Projekt ZERTIFIZIERTE KI wird vom Land Nordrhein-Westfalen im Rahmen der Kompetenzplattform KI.NRW gefördert.

Aktuelles

 

13.6.2023

Fachlicher Austausch & innovative Praxisbeispiele zu KI-Prüfungen

Beim FORUM ZERTIFIZIERTE KI bringen wir wichtige Akteure aus Wissenschaft, Wirtschaft und Politik rund um vertrauenswürdige Künstliche Intelligenz zusammen und zeigen, wie Unternehmen sich auf die kommende Regulatorik vorbereiten und KI-Prüfungen gewinnbringend einsetzen können.

5.6.2023

Whitepaper

KI-Anwendungen systematisch prüfen und absichern: Prüfwerkzeuge und Prüfplattform zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz

Dieses Whitepaper stellt ein Prüf-Framework vor, das als Plattform zur Integration von KI-Prüfwerkzeugen dient. Außerdem werden ausgewählte KI-Prüfwerkzeuge, die für unterschiedliche Anwendungsbereiche genutzt werden können, sowie ihre Funktionalitäten im Detail erklärt.

25.5.2022

Hannover Messe 2022

Erste konkrete Absicherungsmethoden für die Gestaltung zuverlässiger KI-Systeme sowie Prüfverfahren »made in Germany« stellte das Projektteam auf der Hannover Messe vor.

1.7.2021

Launch Projektwebsite

Auf der neuen Website zum Flagship-Projekt ZERTIFIZIERTE KI finden Sie alle Informationen zum Projekt, spannende Publikationen und Workshop-Termine.

28.5.2021

Fraunhofer-Podcast

Dr. Maximilian Poretschkin (IAIS) und Filiz Elmas (DIN) erklären im Podcast das Vorhaben einer KI-Zertifizierung »made in Germany«.

24.11.2020

Projektstart

Nächster Schritt Richtung KI-Zertifizierung »made in Germany«: Fraunhofer IAIS und BSI starten strategische Kooperation zur Entwicklung von Prüfverfahren für die Zertifizierung von KI-Systemen

Dimensionen zur Beurteilung der Qualität und Vertrauenswürdigkeit von KI

Als Grundlage für die Zertifizierung von KI-Systemen wurden in interdisziplinärer Zusammenarbeit sieben Dimensionen der Vertrauenswürdigkeit identifiziert. Die Ergebnisse wurden 2019 in dem Whitepaper »Vertrauenswürdiger Einsatz von Künstlicher Intelligenz« publiziert. Die Entwicklung der technischen Prüfverfahren setzt hier an.

Auf Basis der Erarbeitung technischer Prüfverfahren soll auch der interdisziplinäre Diskurs zur Gestaltung ethischer und rechtlicher Rahmenbedingungen weitergeführt werden. Ziel ist es, das Vertrauen und die Akzeptanz bei Unternehmen, Anwender*innen und gesellschaftlichen Akteuren in KI-basierte Anwendungen zu stärken. Die Entwicklung des Prüfkatalogs orientiert sich an den Empfehlungen der »Datenethikkommission« der Bundesregierung und die von der Europäischen Kommission beauftragte »High Level Expert Group on AI« und soll ein breites Spektrum technischer Qualitätskriterien, das neben Verlässlichkeit und Sicherheit auch Kriterien der Transparenz und Fairness abdeckt, berücksichtigen.

 

Mehr Informationen und Angebote

 

Kostenfreier Leitfaden

KI-Prüfkatalog

Der KI-Prüfkatalog ist ein Leitfaden für die Gestaltung vertrauenswürdiger KI. Er unterstützt Entwickler*innen bei der Gestaltung sowie Prüfer*innen bei der Evaluation und Qualitätssicherung von KI-Anwendungen.

Whitepaper

Vertrauenswürdiger Einsatz von Künstlicher Intelligenz

Das Team der Universitäten Bonn und Köln sowie des Fraunhofer IAIS stellt seinen interdisziplinären Ansatz vor und erläutert die Handlungsfelder aus philosophischer, ethischer, rechtlicher und techno­logi­scher Sicht.

Die Publikation bildet die Grundlage für die weitere Entwicklung der KI-Zertifizierung.

Handlungsempfehlungen

Normungsroadmap KI

Die Normungsroadmap des DIN gibt Handlungsempfehlungen für eine KI-Standardisierung. Sie ist Ergebnis der Arbeit von 300 Fachleuten, u.a. aus Wirtschaft und Wissenschaft (darunter Fraunhofer IAIS).

Impulspapier der Plattform Lernende Systeme

Zertifizierung von KI-Systemen

Das Impulspapier beschreibt Nutzen und Anforderungen einer KI-Zertifizierung.

Unser Angebot für die Wirtschaft

Zuverlässige KI

IAIS-Expert*innen übernehmen mit Unternehmen die Prüfung von KI-Risiken, die Absicherung der KI-Systeme und die Vorbereitung einer KI-Zertifizierung.  

Whitepaper der Plattform Lernende Systeme

Kompass für die Entwicklung und Anwendung vertrauenswürdiger KI-Systeme

In Kooperation mit