Künstliche Intelligenz sicher und vertrauenswürdig gestalten

Gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und weiteren Partnern arbeitet das Fraunhofer IAIS an der Entwicklung von Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz. Ziel ist es, die technische Zuverlässigkeit und einen verantwortungsvollen Umgang mit der Technologie zu gewährleisten.

KI-Zertifizierung

Prüfverfahren für eine KI-Zertifizierung »made in Germany«

Die rasante Entwicklung der Künstlichen Intelligenz (KI) eröffnet große Chancen für neue technische Anwendungen, digitale Businessmodelle und bietet praktische Erleichterungen im Alltagsleben. Während KI-Systeme immer komplexere Aufgaben übernehmen und zunehmend autonom agieren, erfordert der Umgang mit der Technologie ein hohes Maß an Verantwortung. Dabei helfen prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen und die auch Anwendenden sowie Verbraucher*innen Auskunft über zugesicherte Eigenschaften von KI-Technologien geben.

Im Rahmen einer strategischen Kooperation entwickeln Expert*innen des BSI und des Fraunhofer IAIS Prüfverfahren für KI-Systeme. Ziel der Kooperation ist es, technische Produkt- und Prozessprüfungen von KI-Systemen in der Wirtschaft zu etablieren und die Entwicklung einer KI-Zertifizierung »made in Germany« voranzubringen. Um die Praxistauglichkeit und Marktfähig­keit der Prüfverfahren sicherzustellen, arbeiten die Partner mit renommierten Institutionen aus Forschung und Anwendung zusammen.

Leuchtturm-Projekt aus NRW legt Bedarfe fest und führt Pilotprüfungen durch

Anfang 2021 startet das Fraunhofer IAIS ein großes Flagship-Projekt mit dem BSI, den Universitäten Bonn und Köln, der RWTH Aachen, dem Deutschen Institut für Normung DIN sowie zahlreichen DAX-30- und weiteren Unternehmen aus unterschiedlichen Branchen wie Telekommunikation, Banken, Versicherungen, Chemie und Handel. In branchen- und technologiebezogenen Anwenderkreisen definieren die Beteiligten konkrete Bedarfe, legen Kriterien und Maßstäbe für eine Prüfung in der Praxis fest und führen Pilotprüfungen durch. Mit diesem breiten Beteiligungsprozess wird sichergestellt, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln und gleichzeitig durch rechtliche, ethische und philosophische Betrachtungen flankiert werden.

Das Flagship-Projekt wird vom Land Nordrhein-Westfalen im Rahmen der Kompetenzplattform KI.NRW gefördert.

Aktuelles

24.11.2020

Pressemitteilung

Nächster Schritt Richtung KI-Zertifizierung »made in Germany«: Fraunhofer IAIS und BSI starten strategische Kooperation zur Entwicklung von Prüfverfahren für die Zertifizierung von KI-Systemen

Normungsroadmap KI

Die Normungsroadmap des DIN gibt Handlungsempfehlungen für eine KI-Standardisierung. Sie ist Ergebnis der Arbeit von rund 300 Fachleuten, u.a. aus Wirtschaft und Wissenschaft (darunter das Fraunhofer IAIS).

KI-Prüfung, -Absicherung und -Zertifizierung

Zuverlässige KI

IAIS-Expert*innen übernehmen mit Unternehmen die Prüfung von KI-Risiken, die Absicherung der KI-Systeme und die Vorbereitung einer KI-Zertifizierung.  

Sachkundige und neutrale Prüfung von KI-Applikationen

Wichtige Grundlagen für die Entwicklung einer KI-Zertifizierung haben die Expert*innen des Fraunhofer IAIS im Kontext eines interdisziplinären Forschungsprojektes mit Wissenschaftler*innen aus den Bereichen Informatik, Recht und Philosophie geschaffen, die die zentralen Handlungsfelder identifiziert und erste Leitplanken für die Entwicklung eines Prüfkatalogs zur Zertifizierung von KI-Systemen formuliert haben. Hierbei wurden sowohl technische Qualitätskriterien wie Verlässlichkeit und Sicherheit als auch ethisch-moralische Kriterien wie Transparenz und Fairness berücksichtigt. Die Ergebnisse wurden 2019 in dem Whitepaper »Vertrauenswürdiger Einsatz von Künstlicher Intelligenz« publiziert.

Die Ergebnisse der Aktivitäten münden in einem am Fraunhofer IAIS entstehenden Prüfkatalog, der auf bereits existierende Leitplanken wie zum Beispiel den Empfehlungen der »Datenethikkommission« der Bundesregierung oder der »High Level Expert Group on AI« der Europäischen Union aufbaut. Daneben sollen regulatorische Lücken identifiziert, transparent gemacht und durch freiwillige Prüfkriterien geschlossen werden. Ebenso werden Schnittstellen zu bestehenden IT-Prüfverfahren wie Funktionale Sicherheit, IT-Sicherheit, Datenschutz, Softwareentwicklung oder ITSM-Prozessen identifiziert.

Unternehmen für Pilotphase gesucht

In einer Pilotphase können interessierte Unternehmen ab sofort KI-Systeme anhand der im Prüfkatalog festgelegten Kriterien durch das Fraunhofer IAIS prüfen lassen.

Kontakt aufnehmen

 

Publikationen zur KI-Zertifizierung

Whitepaper der Universtitäten Bonn und Köln und des Fraunhofer IAIS

Vertrauenswürdiger Einsatz von Künstlicher Intelligenz

Das Team der Universitäten Bonn und Köln sowie des Fraunhofer IAIS stellt seinen interdisziplinären Ansatz in einem Whitepaper für die Zertifizierung von KI-Anwendungen vor und erläutert die Handlungsfelder aus philosophischer, ethischer, rechtlicher und techno­logi­scher Sicht. Die Publikation bildet die Grundlage für die weitere Entwicklung der KI-Zertifizierung.

Impulspapier der Plattform Lernende Systeme

Zertifizierung von KI-Systemen

Welchen Nutzen eine KI-Zertifizierung verspricht und welche Anforderungen sich mit Blick auf technische Umsetzung, Gemeinwohl und Erhalt der Innovationskraft stellen, skizzieren Expert*innen der Plattform Lernende Systeme in diesem Impulspapier. Es gibt einen Überblick über bestehende Zertifizierungsprojekte in Deutschland und bildet die Grundlage für weiterführende Diskussionen.

Seitens des Fraunhofer IAIS waren Institutsleiter Prof. Dr. Stefan Wrobel und Dr. Maximilian Poretschkin, Projektleiter KI-Zertifizierung, an dem Whitepaper beteiligt.

Whitepaper der Plattform Lernende Systeme

Kompass für die Entwicklung und Anwendung vertrauenswürdiger KI-Systeme

Die Autor*innen adressieren offene Fragen, etwa dazu, wann KI-Systeme zertifiziert werden sollten, an welchen Kriterien sich diese Zertifizierung orientieren soll und wie eine effiziente Infrastruktur ausgestaltet sein sollte. Das Whitepaper wurde auf der Basis von Experteninterviews mit Mitgliedern und Vertreter*innen der in der Plattform Lernende Systeme beteiligten Forschungseinrichtungen und Unternehmen sowie Gastautor*innen erstellt. Seitens des Fraunhofer IAIS waren Institutsleiter Prof. Dr. Stefan Wrobel und Dr. Maximilian Poretschkin, Projektleiter KI-Zertifizierung, beteiligt.

Stimmen zum Projekt

© Laurence Chaperon

»Mit der Zertifizierung von KI zeigen wir, dass technische Innovation und ethische Verantwortung miteinander vereinbar sind. Ich bin mir sicher: Dies wird eine Strahlkraft nach ganz Europa und darüber hinaus haben und kann ein wichtiger Baustein für eine neue digitale Montanunion sein.«

Armin Laschet

© MWIDE/F.Wiedemeier

»Mit unseren herausragenden Kompetenzen und dem starken Netzwerk KI.NRW kann Nordrhein-Westfalen eine führende Rolle bei der Weiterentwicklung von Wirtschaft und Gesellschaft spielen. Damit das gelingt, machen wir den Einsatz der Künstlichen Intelligenz vertrauenswürdig und sicher. Dabei hilft uns eine unabhängige Zertifizierung von KI-Systemen: Sie stärkt das Vertrauen in moderne IT-Technologie und wird auch international als wichtiger Wettbewerbsvorteil erkannt. Mit der Entwicklung marktfähiger Prüfverfahren nähern wir uns dem Ziel mit großen Schritten. Dieses wichtige Projekt mit starken Partnern aus Nordrhein-Westfalen zeigt die große Innovationskraft, die zur Etablierung der Marke ‚KI made in Germany‘ beiträgt«

Prof. Dr. Andreas Pinkwart

© BSI

»Künstliche Intelligenz ist eine zentrale Technologie der Digitalisierung. KI-Methoden werden im Zuge der Digitalisierung zunehmend und im großen Maßstab auch für sicherheitskritische Aufgaben eingesetzt. Als Gestalter einer sicheren Digitalisierung in Deutschland befasst sich daher auch das BSI intensiv mit dem Thema und unterstützt die Bundesregierung dabei, den technologisch und wirtschaftlich erfolgreichen sowie gesellschaftlich akzeptierten Einsatz von KI-Lösungen in Deutschland voranzutreiben. Wichtig für die Akzeptanz neuer Technologien ist das Vertrauen der Anwendenden. Dies entsteht unter anderem durch transparente Prüfung, Bewertung und Zertifizierung von KI-Systemen. Grundlage für einheitliche Standards und Normen ist die Erarbeitung von Prüfverfahren, die wir nun mit unserem langjährigen Partner Fraunhofer IAIS angehen. Mit dem Wirtschaftsministerium NRW haben wir gleichzeitig einen verlässlichen Partner, der gute Rahmenbedingungen für Innovation schafft und fördert.«

Arne Schönbohm

Präsident des Bundesamts für Sicherheit in der Informationstechnik

© Fraunhofer IAIS

»Das Fraunhofer IAIS legt großen Wert auf die Entwicklung vertrauenswürdiger KI-Lösungen und hat über die letzten Jahre seinen Forschungsschwerpunkt zur KI-Absicherung kontinuierlich ausgebaut. Mit der Erarbeitung unserer Prüfverfahren im Hinblick auf eine KI-Zertifizierung schaffen wir verlässliche Standards für die Entwicklung und Bewertung von KI-Systemen. Bereits im kommenden Jahr werden wir erste Prüfungen mit Unternehmen durchführen. Ich freue mich, dass wir mit dem BSI einen starken Partner mit langjähriger Erfahrung in der Etablierung von Standards in der IT an unserer Seite haben. Jetzt gilt es, gemeinsam die Weichen Richtung Zertifizierung zu stellen und die wesentlichen Akteure zusammen zu bringen«,

Prof. Dr. Stefan Wrobel

© Christoph Hardt

»Ethische Prinzipien des menschlichen Handelns ergeben sich aus der menschlichen Lebensform und sozio-ökonomischen Entwicklung. Die Ethik einer KI muss jeweils den ethischen Standards der Gruppe der Anwender angepasst werden. Dazu gehört u.a. eine Transparenz der grundlegenden Funktionsweise, Fairness gegenüber allen Beteiligten und die Sicherheit der Daten und Anwendung.«

Prof. Dr. Markus Gabriel

© Universität zu Köln

»Die Welt ist das, was wir aus ihr machen. Dies gilt gerade auch in Zeiten der digitalen Revolution. Die damit einhergehenden gesellschaftlichen Veränderungen durch die Fortschritte im Bereich der Künstlichen Intelligenz halten große Chancen bereit. Diese zum Wohle der Gesellschaft zu nutzen, setzt zu allererst einen verantwortungsvollen Umgang mit den neuen Technologien voraus. Die Wahrung ethischer und rechtlicher Grundsätze ist daher oberstes Prinzip in einer Gesellschaft, in der die Technik dem Menschen dient – und nicht umgekehrt.«

Prof. Dr. Dr. Frauke Rostalski

© B-IT

»Datengetriebene Intelligenz und Maschinelles Lernen gründen auf fortgeschrittenen Verfahren aus Algorithmik, Logik und Statistik. Ihr umfassender Praxiseinsatz und die Erschließung  weiterer KI-basierter Innovationen in Produkten und Prozessen beinhalten häufig neue Herausforderungen an Stabilität, Datenschutz, Zurechenbarkeit, Transparenz und Resilienz, deren Zusicherung in Labor und Anwendungen im interdisziplinären Verbund erarbeitet und bereitgestellt werden muss.«

Prof. Dr. Armin B. Cremers

In Kooperation mit