© mila103, ryzhi, zapp2photo / fotolia.com

Künstliche Intelligenz sicher und vertrauenswürdig gestalten

Gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und weiteren Partnern arbeitet das Fraunhofer IAIS an der Entwicklung von Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz. Ziel ist es, die technische Zuverlässigkeit und einen verantwortungsvollen Umgang mit der Technologie zu gewährleisten.

Projekt ZERTIFIZIERTE KI

Prüfverfahren für eine KI-Zertifizierung »made in Germany«

Die rasante Entwicklung der Künstlichen Intelligenz (KI) eröffnet große Chancen für neue technische Anwendungen, digitale Businessmodelle und bietet praktische Erleichterungen im Alltagsleben. Während KI-Systeme immer komplexere Aufgaben übernehmen und zunehmend autonom agieren, erfordert der Umgang mit der Technologie ein hohes Maß an Verantwortung. Dabei helfen prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen und die auch Anwendenden sowie Verbraucher*innen Auskunft über zugesicherte Eigenschaften von KI-Technologien geben.

Im Rahmen einer strategischen Kooperation entwickeln Expert*innen des BSI und des Fraunhofer IAIS Prüfverfahren für KI-Systeme. Ziel der Kooperation ist es, technische Produkt- und Prozessprüfungen von KI-Systemen in der Wirtschaft zu etablieren und die Entwicklung einer KI-Zertifizierung »made in Germany« voranzubringen.

Um die Praxistauglichkeit und Marktfähig­keit der Prüfverfahren sicherzustellen, arbeiten die Partner mit renommierten Institutionen aus Forschung und Anwendung zusammen. Hierbei werden industrielle Bedarfe durch die aktive Einbindung von zahlreichen assoziierten Unternehmen und Organisationen berücksichtigt, welche unterschiedliche Branchen wie etwa Telekommunikation, Banken, Versicherungen, Chemie, und Handel repräsentieren. Mit diesem breiten Beteiligungsprozess wird sichergestellt, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln und gleichzeitig durch rechtliche, ethische und philosophische Betrachtungen flankiert werden.

Das Flagship-Projekt ZERTIFIZIERTE KI wird vom Land Nordrhein-Westfalen im Rahmen der Kompetenzplattform KI.NRW gefördert.

Aktuelles

1.7.2021

Launch Projektwebsite

Auf der neuen Website zum Flagship-Projekt ZERTIFIZIERTE KI finden Sie alle Informationen zum Projekt, spannende Publikationen und Workshop-Termine.

28.5.2021

Fraunhofer-Podcast

Dr. Maximilian Poretschkin (IAIS) und Filiz Elmas (DIN) erklären im Podcast das Vorhaben einer KI-Zertifizierung »made in Germany«.

24.11.2020

Pressemitteilung

Nächster Schritt Richtung KI-Zertifizierung »made in Germany«: Fraunhofer IAIS und BSI starten strategische Kooperation zur Entwicklung von Prüfverfahren für die Zertifizierung von KI-Systemen

Dimensionen zur Beurteilung der Qualität und Vertrauenswürdigkeit von KI

Als Grundlage für die Zertifizierung von KI-Systemen wurden in interdisziplinärer Zusammenarbeit sieben Dimensionen der Vertrauenswürdigkeit identifiziert. Die Ergebnisse wurden 2019 in dem Whitepaper »Vertrauenswürdiger Einsatz von Künstlicher Intelligenz« publiziert. Die Entwicklung der technischen Prüfverfahren setzt hier an.

Auf Basis der Erarbeitung technischer Prüfverfahren soll auch der interdisziplinäre Diskurs zur Gestaltung ethischer und rechtlicher Rahmenbedingungen weitergeführt werden. Ziel ist es, das Vertrauen und die Akzeptanz bei Unternehmen, Anwender*innen und gesellschaftlichen Akteuren in KI-basierte Anwendungen zu stärken. Die Entwicklung des Prüfkatalogs orientiert sich an den Empfehlungen der »Datenethikkommission« der Bundesregierung und die von der Europäischen Kommission beauftragte »High Level Expert Group on AI« und soll ein breites Spektrum technischer Qualitätskriterien, das neben Verlässlichkeit und Sicherheit auch Kriterien der Transparenz und Fairness abdeckt, berücksichtigen.

 

Mehr Informationen und Angebote

 

Kostenfreier Leitfaden

KI-Prüfkatalog

Der KI-Prüfkatalog ist ein Leitfaden für die Gestaltung vertrauenswürdiger KI. Er unterstützt Entwickler*innen bei der Gestaltung sowie Prüfer*innen bei der Evaluation und Qualitätssicherung von KI-Anwendungen.

Whitepaper

Vertrauenswürdiger Einsatz von Künstlicher Intelligenz

Das Team der Universitäten Bonn und Köln sowie des Fraunhofer IAIS stellt seinen interdisziplinären Ansatz vor und erläutert die Handlungsfelder aus philosophischer, ethischer, rechtlicher und techno­logi­scher Sicht.

Die Publikation bildet die Grundlage für die weitere Entwicklung der KI-Zertifizierung.

Handlungsempfehlungen

Normungsroadmap KI

Die Normungsroadmap des DIN gibt Handlungsempfehlungen für eine KI-Standardisierung. Sie ist Ergebnis der Arbeit von 300 Fachleuten, u.a. aus Wirtschaft und Wissenschaft (darunter Fraunhofer IAIS).

Impulspapier der Plattform Lernende Systeme

Zertifizierung von KI-Systemen

Das Impulspapier beschreibt Nutzen und Anforderungen einer KI-Zertifizierung.

Unser Angebot für die Wirtschaft

Zuverlässige KI

IAIS-Expert*innen übernehmen mit Unternehmen die Prüfung von KI-Risiken, die Absicherung der KI-Systeme und die Vorbereitung einer KI-Zertifizierung.  

Whitepaper der Plattform Lernende Systeme

Kompass für die Entwicklung und Anwendung vertrauenswürdiger KI-Systeme

In Kooperation mit