KI-Zertifizierung

Spezielle Anforderungen an Anwendungen der Künstlichen Intelligenz stellt die Luftfahrt. Die dort eingesetzten Komponenten sind besonders sicherheitskritisch und unterliegen somit hohen Qualitätsstandards, da Fehler fatale Folgen haben können. Die derzeitigen Zertifizierungsansätze für KI-Lösungen können aktuell deshalb nicht auf die Luftffahrt angewendet werden.

Das Projekt KIEZ 4.0 will das ändern: Das Forschungskonsortium soll einerseits die technischen, andererseits aber auch die ethischen und juristischen Anforderungen und Implikationen für den Einsatz Künstlicher Intelligenz im Luftfahrtbereich untersuchen und formulieren. Beteiligt sind auf technischer Seite neben dem Fraunhofer IAIS auch die Institute Fraunhofer FOKUS und FKIE, die Universität Stuttgart und das Münchner Forschungsinstitut fortiss sowie die Ingenieurgesellschaft für Intelligente Lösungen und Systeme (IILS). Zu Fragen der Ethik forscht die theologische Fakultät der Universität Eichstätt. Die Leitung des Projekts liegt bei Airbus Defense and Space. Zudem sind die Deutsche Flugsicherung (DFS), das Deutsche Zentrum für Luft- und Raumfahrt (DLR) sowie die Europäische Agentur für Flugsicherheit (EASA) am Projekt beteiligt.

KIEZ 4.0 wird durch das Bundesministerium für Wirtschaft und Energie gefördert. Das Projekt startete am 1. Juli 2020 und hat eine Laufzeit von drei Jahren.

»Mit der Zertifizierung von KI zeigen wir, dass technische Innovation und ethische Verantwortung miteinander vereinbar sind. Ich bin mir sicher: Dies wird eine Strahlkraft nach ganz Europa und darüber hinaus haben und kann ein wichtiger Baustein für eine neue digitale Montanunion sein.«

Armin Laschet

• Ministerpräsident des Landes Nordrhein-Westfalen

»Mit unseren herausragenden Kompetenzen und dem starken Netzwerk KI.NRW kann Nordrhein-Westfalen eine führende Rolle bei der Weiterentwicklung von Wirtschaft und Gesellschaft spielen. Damit das gelingt, machen wir den Einsatz der Künstlichen Intelligenz vertrauenswürdig und sicher. Dabei hilft uns eine unabhängige Zertifizierung von KI-Systemen: Sie stärkt das Vertrauen in moderne IT-Technologie und wird auch international als wichtiger Wettbewerbsvorteil erkannt. Mit der Entwicklung marktfähiger Prüfverfahren nähern wir uns dem Ziel mit großen Schritten. Dieses wichtige Projekt mit starken Partnern aus Nordrhein-Westfalen zeigt die große Innovationskraft, die zur Etablierung der Marke ‚KI made in Germany‘ beiträgt«

Prof. Dr. Andreas Pinkwart

• Minister für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen

»Künstliche Intelligenz ist eine zentrale Technologie der Digitalisierung. KI-Methoden werden im Zuge der Digitalisierung zunehmend und im großen Maßstab auch für sicherheitskritische Aufgaben eingesetzt. Als Gestalter einer sicheren Digitalisierung in Deutschland befasst sich daher auch das BSI intensiv mit dem Thema und unterstützt die Bundesregierung dabei, den technologisch und wirtschaftlich erfolgreichen sowie gesellschaftlich akzeptierten Einsatz von KI-Lösungen in Deutschland voranzutreiben. Wichtig für die Akzeptanz neuer Technologien ist das Vertrauen der Anwendenden. Dies entsteht unter anderem durch transparente Prüfung, Bewertung und Zertifizierung von KI-Systemen. Grundlage für einheitliche Standards und Normen ist die Erarbeitung von Prüfverfahren, die wir nun mit unserem langjährigen Partner Fraunhofer IAIS angehen. Mit dem Wirtschaftsministerium NRW haben wir gleichzeitig einen verlässlichen Partner, der gute Rahmenbedingungen für Innovation schafft und fördert.«

Arne Schönbohm

Präsident des Bundesamts für Sicherheit in der Informationstechnik

»Das Fraunhofer IAIS legt großen Wert auf die Entwicklung vertrauenswürdiger KI-Lösungen und hat über die letzten Jahre seinen Forschungsschwerpunkt zur KI-Absicherung kontinuierlich ausgebaut. Mit der Erarbeitung unserer Prüfverfahren im Hinblick auf eine KI-Zertifizierung schaffen wir verlässliche Standards für die Entwicklung und Bewertung von KI-Systemen. Bereits im kommenden Jahr werden wir erste Prüfungen mit Unternehmen durchführen. Ich freue mich, dass wir mit dem BSI einen starken Partner mit langjähriger Erfahrung in der Etablierung von Standards in der IT an unserer Seite haben. Jetzt gilt es, gemeinsam die Weichen Richtung Zertifizierung zu stellen und die wesentlichen Akteure zusammen zu bringen«,

Prof. Dr. Stefan Wrobel

• Institutsleiter Fraunhofer IAIS

»Ethische Prinzipien des menschlichen Handelns ergeben sich aus der menschlichen Lebensform und sozio-ökonomischen Entwicklung. Die Ethik einer KI muss jeweils den ethischen Standards der Gruppe der Anwender angepasst werden. Dazu gehört u.a. eine Transparenz der grundlegenden Funktionsweise, Fairness gegenüber allen Beteiligten und die Sicherheit der Daten und Anwendung.«

Prof. Dr. Markus Gabriel

• Direktor des Center for Science and Thought an der Universität Bonn

»Die Welt ist das, was wir aus ihr machen. Dies gilt gerade auch in Zeiten der digitalen Revolution. Die damit einhergehenden gesellschaftlichen Veränderungen durch die Fortschritte im Bereich der Künstlichen Intelligenz halten große Chancen bereit. Diese zum Wohle der Gesellschaft zu nutzen, setzt zu allererst einen verantwortungsvollen Umgang mit den neuen Technologien voraus. Die Wahrung ethischer und rechtlicher Grundsätze ist daher oberstes Prinzip in einer Gesellschaft, in der die Technik dem Menschen dient – und nicht umgekehrt.«

Prof. Dr. Dr. Frauke Rostalski

• Inhaberin des Lehrstuhls für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung an der Universität zu Köln

»Datengetriebene Intelligenz und Maschinelles Lernen gründen auf fortgeschrittenen Verfahren aus Algorithmik, Logik und Statistik. Ihr umfassender Praxiseinsatz und die Erschließung  weiterer KI-basierter Innovationen in Produkten und Prozessen beinhalten häufig neue Herausforderungen an Stabilität, Datenschutz, Zurechenbarkeit, Transparenz und Resilienz, deren Zusicherung in Labor und Anwendungen im interdisziplinären Verbund erarbeitet und bereitgestellt werden muss.«

Prof. Dr. Armin B. Cremers

• B-IT Emeritus Research Group Artificial Intelligence Foundations

In Kooperation mit