Plattform Lernende Systeme veröffentlicht Impulspapier zur Zertifizierung von KI-Systemen

Vertrauenswürdige KI-Systeme »Made in Europe«

News / 28. April 2020

Expertinnen und Experten des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS, des Karlsruher Instituts für Technologie KIT, der Universität Tübingen sowie der Deutschen Akademie der Technikwissenschaften haben im Rahmen der Plattform Lernende Systeme ein Impulspapier zur Zertifizierung von KI-Systemen veröffentlicht. Das interdisziplinäre Autorenteam skizziert in der Publikation, welchen Nutzen eine KI-Zertifizierung verspricht und welche Anforderungen sich mit Blick auf technische Umsetzung, Gemeinwohl und Erhalt der Innovationskraft stellen.

Künstliche Intelligenz (KI) ist eine Schlüsseltechnologie mit großem Nutzenpotential. Als Querschnittstechnologie wird KI in nahezu allen Lebensbereichen zum Einsatz kommen und zukünftig viele Dinge einfacher, präziser und schneller erledigen können als der Mensch. Diese Entwicklung bietet große Chancen für die moderne Gesellschaft, gleichzeitig führt sie aber auch zu neuen Fragen und Herausforderungen. Denn wenn KI-Systeme eigenständig handeln, Entscheidungen treffen oder Planungen anstellen, dann ist es wichtig, dass dies in einem ethisch vertretbaren Rahmen geschieht. Fragen zu Kontrolle, Rechtssicherheit, Verantwortlichkeit und Transparenz sowie IT-Sicherheit, Datenschutz und Selbstbestimmung müssen adressiert werden. Wichtig ist, dass ein durch KI-Systeme erfolgtes Diskriminierungshandeln vermieden wird und Menschen den Systemen vertrauen können.

In seinem Impulspapier beleuchtet das interdisziplinäre Autorenteam aus Mitgliedern der Plattform Lernende Systeme sowohl technische, als auch juristische und ethische Aspekte sowie Fragen und Herausforderungen, die es auf dem Weg zu einer Zertifizierung von KI zu adressieren gilt. Die KI-Zertifizierung soll Systeme auf Implementierungsanforderungen überprüfen und mit einem Siegel auszeichnen – mit dem Ziel, die Akzeptanz von KI-Systemen zu erhöhen, eine Orientierungsfunktion für KI-Entwickler*innen anzubieten und einen europäischen Standard für den marktwirtschaftlichen Wettbewerb zu schaffen.

Die Publikation gibt außerdem einen Überblick über bestehende Zertifizierungsprojekte in Deutschland und appelliert an die Einrichtung einer zentralen Zertifizierungsstelle, die eine vertrauenswürdige Marke »KI made in Europe« ermöglicht.
 

CERTIFIED AI: Zertifizierung zur Sicherstellung einer vertrauenswürdigen KI

Bereits seit 2019 leistet ein interdisziplinäres Expert*innen-Team der Universitäten Bonn und Köln unter der Federführung des Fraunhofer IAIS und unter Mitwirkung des Bundesamtes für Sicherheit in der Informationstechnik (BSI) wichtige Vorarbeiten für eine zentrale KI-Zertifizierung. In dem Whitepaper »Vertrauenswürdiger Einsatz von Künstlicher Intelligenz« wurden die sieben Handlungsfelder Ethik und Recht, Autonomie und Kontrolle, Fairness, Transparenz, Verlässlichkeit, Sicherheit und Datenschutz ausgemacht und in einem interdisziplinären Team aus philosophischer, ethischer, rechtlicher und technologischer Sicht befragt. Dabei wurden wichtige Anforderungen und Leitplanken formuliert, die eine vertrauenswürdige KI erfüllen muss. Dieser »Bonner Katalog« bildet die Grundlage, um eine Zertifizierung in der Praxis zu realisieren. Diese Realisierung soll nun im nächsten Schritt in enger Kooperation mit dem BSI im Projekt »CERTIFIED AI: Zertifizierung zur Sicherstellung einer vertrauenswürdigen KI« erfolgen. Ziel des Programms ist die standardisierungsreife Entwicklung von technischen Prüfkriterien, Prüfmethoden und Prüfwerkzeugen für KI-Anwendungen und die Etablierung der erforderlichen Prüfinfrastruktur im Bundesgebiet.