Zertifizierte KI-Anwendungen

Ein interdisziplinäres Forscherteam entwickelt im Rahmen der Kompetenzplattform KI.NRW einen Prüfkatalog, der die sachkundige und neutrale Bewertung von KI ermöglicht. Ziel ist es, anhand einer Zertifizierung für KI-Anwendungen die technische Zuverlässigkeit und einen verantwortungsvollen Umgang mit der Technologie zu gewährleisten.

KI-Zertifizierung

Zertifizierung zur Sicherstellung einer vertrauenswürdigen KI

Eine Initiative der Kompetenzplattform KI.NRW

Die rasante Entwicklung der Künstlichen Intelligenz eröffnet große Chancen für neue technische Anwendungen und digitale Businessmodelle und bietet praktische Erleichterungen im Alltagsleben. Während Künstliche Intelligenz immer komplexere Aufgaben übernimmt und zunehmend autonom agiert, erfordert der Umgang mit der Technologie ein hohes Maß an Verantwortung.

In seiner Vision für die Künstliche Intelligenz legt Nordrhein-Westfalen (NRW) einen Schwerpunkt auf Ethik und eine menschen-zentrierte KI. Ein Ziel der Kompetenzplattform KI.NRW ist es daher, eine Zertifizierung für KI zu entwickeln, welche neben der Absicherung der technischen Zuverlässigkeit auch einen verantwortungsvollen Umgang mit der Technologie prüft. Hierzu leitet das Fraunhofer IAIS ein interdisziplinäres Forschungsteam mit Vertreterinnen und Vertretern aus Philosophie, Recht, Wirtschaft und Politik, um die Grundlagen für diese Zertifizierung zu erarbeiten.

Sachkundige und neutrale Prüfung von KI-Applikationen

KI-Anwendungen beruhen oft auf riesigen Datenmengen und dem Einsatz hochkomplexer mathematischer Verfahren. Für Anwender ist es in der Praxis schwierig zu überprüfen, inwiefern die zugesicherten Eigenschaften erfüllt werden. Eine KI-Zertifizierung, die auf einer sachkundigen und neutralen Prüfung beruht, schafft Vertrauen und Akzeptanz – sowohl bei Unternehmen als auch bei Nutzerinnen und Nutzern sowie gesellschaftlichen Akteuren. Solche Zertifikate bescheinigen zudem einen Qualitätsstandard, der es ermöglicht, KI-Systeme verschiedener Anbieter zu vergleichen und so den freien Wettbewerb in der KI zu fördern.

Entwicklung eines Prüfkatalogs

Ziel des Forschungsprojekts ist es, einen Prüfkatalog zu entwickeln, anhand dessen sachverständige Dritte eine Zertifizierung von KI-Systemen vornehmen können. Bei der Erstellung werden sowohl technische Qualitätskriterien wie Verlässlichkeit und Sicherheit als auch ethisch-moralische Kriterien wie Transparenz und Fairness hinreichend stark berücksichtigt.

Die Entwicklung des Prüfkatalogs wird auf bereits existierende Leitplanken wie zum Beispiel den Empfehlungen der »Datenethikkommission« der Bundesregierung oder der »High Level Expert Group on AI« der Europäischen Union aufgebaut. Daneben sollen regulatorische Lücken identifiziert, transparent gemacht und durch freiwillige Prüfkriterien geschlossen werden. Ebenso werden Schnittstellen zu bestehenden IT-Prüfverfahren wie Datenschutz, IT-Sicherheit oder ITSM-Prozessen identifiziert.

Stimmen zum Projekt

»Mit der Zertifizierung von KI zeigen wir, dass technische Innovation und ethische Verantwortung miteinander vereinbar sind. Ich bin mir sicher: Dies wird eine Strahlkraft nach ganz Europa und darüber hinaus haben und kann ein wichtiger Baustein für eine neue digitale Montanunion sein.«

Armin Laschet

© MWIDE/F.Wiedemeier

»Mit der von uns initiierten Kompetenzplattform KI.NRW baut Nordrhein-Westfalen seine führende Rolle in der angewandten Künstlichen Intelligenz weiter aus. Eine Zertifizierung von KI-Anwendungen sichert den ethisch-verantwortungsvollen Einsatz dieser Zukunftstechnologie, bei der wir den Menschen in den Mittelpunkt stellen. Gleichzeitig fördert die Zertifizierung den freien Wettbewerb unterschiedlicher Anbieter.«

Prof. Dr. Andreas Pinkwart

© Christoph Hardt

»Ethische Prinzipien des menschlichen Handelns ergeben sich aus der menschlichen Lebensform und sozio-ökonomischen Entwicklung. Die Ethik einer KI muss jeweils den ethischen Standards der Gruppe der Anwender angepasst werden. Dazu gehört u.a. eine Transparenz der grundlegenden Funktionsweise, Fairness gegenüber allen Beteiligten und die Sicherheit der Daten und Anwendung.«

Prof. Dr. Markus Gabriel

© Fraunhofer IAIS

»Künstliche Intelligenz ist so fundamental, dass sie die Wettbewerbsfähigkeit der deutschen Wirtschaft entscheidend beeinflussen wird und gleichzeitig große Chancen für Gesellschaft und unseren Alltag eröffnet. Im praktischen Einsatz müssen wir an die Künstliche Intelligenz selbstverständlich mindestens die gleichen Maßstäbe anlegen wie an den Menschen.«

Prof. Dr. Stefan Wrobel

KI-Absicherung

Das Fraunhofer IAIS forscht an modernen KI-Algorithmen und ihrem Einsatz in Industrie und Gesellschaft: Dabei unterstützen wir unsere Kunden beim verantwortungsvollen Design von KI-Lösungen und der technisch zuverlässigen Umsetzung.