Zertifizierte KI-Anwendungen

Ein interdisziplinäres Forscherteam entwickelt im Rahmen der Kompetenzplattform KI.NRW mit Beteiligung des BSI einen Prüfkatalog, der die sachkundige und neutrale Bewertung von KI ermöglicht. Ziel ist es, anhand einer Zertifizierung für KI-Anwendungen die technische Zuverlässigkeit und einen verantwortungsvollen Umgang mit der Technologie zu gewährleisten.

KI-Zertifizierung

Zertifizierung zur Sicherstellung einer vertrauenswürdigen KI

Eine Initiative der Kompetenzplattform KI.NRW

Die rasante Entwicklung der Künstlichen Intelligenz eröffnet große Chancen für neue technische Anwendungen und digitale Businessmodelle und bietet praktische Erleichterungen im Alltagsleben. Während Künstliche Intelligenz immer komplexere Aufgaben übernimmt und zunehmend autonom agiert, erfordert der Umgang mit der Technologie ein hohes Maß an Verantwortung.

In seiner Vision für die Künstliche Intelligenz legt Nordrhein-Westfalen (NRW) einen Schwerpunkt auf Ethik und eine menschen-zentrierte KI. Ein Ziel der Kompetenzplattform KI.NRW ist es daher, eine Zertifizierung für KI zu entwickeln, welche neben der Absicherung der technischen Zuverlässigkeit auch einen verantwortungsvollen Umgang mit der Technologie prüft. Hierzu leitet das Fraunhofer IAIS ein interdisziplinäres Forschungsteam mit Vertreterinnen und Vertretern aus Philosophie, Recht, Wirtschaft und Politik, um die Grundlagen für diese Zertifizierung zu erarbeiten. Dabei verzahnt das Team seine Kompetenzen mit der langjährigen Erfahrung des Bundesamtes für Sicherheit in der Informationstechnik (BSI).

Sachkundige und neutrale Prüfung von KI-Applikationen

KI-Anwendungen beruhen oft auf riesigen Datenmengen und dem Einsatz hochkomplexer mathematischer Verfahren. Für Anwender ist es in der Praxis schwierig zu überprüfen, inwiefern die zugesicherten Eigenschaften erfüllt werden. Eine KI-Zertifizierung, die auf einer sachkundigen und neutralen Prüfung beruht, schafft Vertrauen und Akzeptanz – sowohl bei Unternehmen als auch bei Nutzerinnen und Nutzern sowie gesellschaftlichen Akteuren. Solche Zertifikate bescheinigen zudem einen Qualitätsstandard, der es ermöglicht, KI-Systeme verschiedener Anbieter zu vergleichen und so den freien Wettbewerb in der KI zu fördern.

Entwicklung eines Prüfkatalogs

Ziel des Forschungsprojekts ist es, einen Prüfkatalog zu entwickeln, anhand dessen sachverständige Dritte eine Zertifizierung von KI-Systemen vornehmen können. Bei der Erstellung werden sowohl technische Qualitätskriterien wie Verlässlichkeit und Sicherheit als auch ethisch-moralische Kriterien wie Transparenz und Fairness hinreichend stark berücksichtigt.

Die Entwicklung des Prüfkatalogs wird auf bereits existierende Leitplanken wie zum Beispiel den Empfehlungen der »Datenethikkommission« der Bundesregierung oder der »High Level Expert Group on AI« der Europäischen Union aufgebaut. Daneben sollen regulatorische Lücken identifiziert, transparent gemacht und durch freiwillige Prüfkriterien geschlossen werden. Ebenso werden Schnittstellen zu bestehenden IT-Prüfverfahren wie Datenschutz, IT-Sicherheit oder ITSM-Prozessen identifiziert.

Stimmen zum Projekt

© Laurence Chaperon

»Mit der Zertifizierung von KI zeigen wir, dass technische Innovation und ethische Verantwortung miteinander vereinbar sind. Ich bin mir sicher: Dies wird eine Strahlkraft nach ganz Europa und darüber hinaus haben und kann ein wichtiger Baustein für eine neue digitale Montanunion sein.«

Armin Laschet

© MWIDE/F.Wiedemeier

»Mit der von uns initiierten Kompetenzplattform KI.NRW baut Nordrhein-Westfalen seine führende Rolle in der angewandten Künstlichen Intelligenz weiter aus. Eine Zertifizierung von KI-Anwendungen sichert den ethisch-verantwortungsvollen Einsatz dieser Zukunftstechnologie, bei der wir den Menschen in den Mittelpunkt stellen. Gleichzeitig fördert die Zertifizierung den freien Wettbewerb unterschiedlicher Anbieter.«

Prof. Dr. Andreas Pinkwart

© BSI

»Deutschland braucht sich im Bereich der Künstlichen Intelligenz und des Maschinellen Lernens nicht zu verstecken. Als nationale Cyber-Sicherheitsbehörde und Kompetenzträger im Bereich der Kryptografie befassen wir uns bereits seit mehreren Jahren mit diesen Themen und verfolgen dabei einen ganzheitlichen Ansatz. Wir betrachten neben mathematisch-technischen Aspekten auch die wirtschaftliche, politische und gesellschaftspolitische Bedeutung von KI. Durch entsprechende Anforderungen und Standards im Bereich der KI tragen wir dazu bei, die Informationssicherheit in der Digitalisierung zu verbessern und damit das Vertrauen der Menschen in neue Technologien und Anwendungen zu erhöhen.«

Arne Schönbohm

© Christoph Hardt

»Ethische Prinzipien des menschlichen Handelns ergeben sich aus der menschlichen Lebensform und sozio-ökonomischen Entwicklung. Die Ethik einer KI muss jeweils den ethischen Standards der Gruppe der Anwender angepasst werden. Dazu gehört u.a. eine Transparenz der grundlegenden Funktionsweise, Fairness gegenüber allen Beteiligten und die Sicherheit der Daten und Anwendung.«

Prof. Dr. Markus Gabriel

© Universität zu Köln

»Die Welt ist das, was wir aus ihr machen. Dies gilt gerade auch in Zeiten der digitalen Revolution. Die damit einhergehenden gesellschaftlichen Veränderungen durch die Fortschritte im Bereich der Künstlichen Intelligenz halten große Chancen bereit. Diese zum Wohle der Gesellschaft zu nutzen, setzt zu allererst einen verantwortungsvollen Umgang mit den neuen Technologien voraus. Die Wahrung ethischer und rechtlicher Grundsätze ist daher oberstes Prinzip in einer Gesellschaft, in der die Technik dem Menschen dient – und nicht umgekehrt.«

Prof. Dr. Dr. Frauke Rostalski

© Fraunhofer IAIS

»Künstliche Intelligenz ist so fundamental, dass sie die Wettbewerbsfähigkeit der deutschen Wirtschaft entscheidend beeinflussen wird und gleichzeitig große Chancen für Gesellschaft und unseren Alltag eröffnet. Im praktischen Einsatz müssen wir an die Künstliche Intelligenz selbstverständlich mindestens die gleichen Maßstäbe anlegen wie an den Menschen.«

Prof. Dr. Stefan Wrobel

© B-IT

»Datengetriebene Intelligenz und Maschinelles Lernen gründen auf fortgeschrittenen Verfahren aus Algorithmik, Logik und Statistik. Ihr umfassender Praxiseinsatz und die Erschließung  weiterer KI-basierter Innovationen in Produkten und Prozessen beinhalten häufig neue Herausforderungen an Stabilität, Datenschutz, Zurechenbarkeit, Transparenz und Resilienz, deren Zusicherung in Labor und Anwendungen im interdisziplinären Verbund erarbeitet und bereitgestellt werden muss.«

Prof. Dr. Armin B. Cremers

KI-Absicherung

Das Fraunhofer IAIS forscht an modernen KI-Algorithmen und ihrem Einsatz in Industrie und Gesellschaft: Dabei unterstützen wir unsere Kunden beim verantwortungsvollen Design von KI-Lösungen und der technisch zuverlässigen Umsetzung.

Ethiktag Bonn

Am 23. August 2019 lädt die Landesregierung NRW ins Maritim Hotel Bonn, um mit dem Mittelstand über die KI-Strategie des Landes zu sprechen.