KI-Prüfkatalog

Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz#

Von Sprachassistenzsystemen über die Analyse von Bewerbungsdokumenten bis hin zum autonomen Fahren – als Schlüsseltechnologie der Zukunft kommt Künstliche Intelligenz (KI) überall zum Einsatz. Umso wichtiger ist es, KI-Anwendungen so zu gestalten, dass sie verlässlich und sicher agieren und transparent und zuverlässig mit Daten umgehen. Dies ist eine notwendige Voraussetzung dafür, dass KI auch in sensiblen Bereichen zum Einsatz kommen kann und Nutzer*innen nachhaltig Vertrauen in die Technologie haben.

Qualität und Vertrauen als Wettbewerbsvorteile

Um hochwertige KI-Produkte und -Dienstleistungen zu entwickeln, ist es für Unternehmen und Entwickler*innen demnach unerlässlich, die Vertrauenswürdigkeit eines KI-Systems sicherzustellen und nachzuweisen: Entweder von Entwicklungsstart an (by design) oder durch objektive Prüfungen im Laufe des Anwendungsbetriebs.  

So erfüllen KI-Anwendungen nicht nur entsprechende Richtlinien und schaffen Vertrauen und Akzeptanz, sondern können auch einen wertvollen Beitrag zur Markenbildung leisten und somit Wettbewerbsvorteile schaffen.

Strukturierter Leitfaden mit anwendungsspezifischen Prüfkriterien

Um Risiken einzugrenzen und ein grundlegendes Vertrauen der Gesellschaft in die Künstliche Intelligenz zu sichern, haben die EU-Kommission, die High Level Expert Group on AI (HLEG) und die Datenethikkommission der Bundesregierung allgemeine Leitlinien für die Entwicklung von KI-Anwendungen geschaffen. Diese sind jedoch oftmals zu abstrakt und enthalten kaum konkrete Anforderungen an Unternehmen und Entwickler*innen. Zudem zeigt die kürzlich veröffentlichte Normungsroadmap KI überdeutlich einen großen Bedarf an konkreten Qualitätsvorschriften und Standards für KI-Anwendungen auf.

Der KI-Prüfkatalog des Fraunhofer IAIS setzt genau daran an und bietet einen strukturierten Leitfaden, mithilfe dessen abstrakte Qualitätsmaßstäbe zu anwendungsspezifischen Prüfkriterien konkretisiert werden können.

Anwendungsgebiete und Leistungsspektrum#

Der KI-Prüfkatalog bietet Ihnen:

  1. Einen Leitfaden zur strukturierten Identifikation KI-spezifischer Risiken in Hinblick auf die sechs Dimensionen der Vertrauenswürdigkeit: Fairness, Autonomie und Kontrolle, Transparenz, Verlässlichkeit, Sicherheit und Datenschutz.
  2. Eine Anleitung, mit deren Hilfe spezifische Prüfkriterien für eine KI-Anwendung formuliert werden können. Zu diesem Zweck listet der KI-Prüfkatalog etablierte KPIs auf, um entsprechende Zielvorgaben – wo möglich – zu quantifizieren.
  3. Eine Anleitung zur strukturierten Dokumentation von technischen und organisatorischen Maßnahmen entlang des Lebenszyklus einer KI-Anwendung, die dem aktuellen Stand der Technik entsprechen und durch deren Umsetzung mögliche KI-Risiken abgeschwächt werden können.
Der KI-Prüfkatalog gibt zum einen Entwickler*innen eine Richtschnur an die Hand, um neue KI-Anwendungen systematisch vertrauenswürdig zu gestalten. Zum anderen leitet er Prüfer*innen dazu an, KI-Anwendungen strukturiert auf Vertrauenswürdigkeit zu untersuchen.

 

KI-Prüfkatalog kostenfrei erhalten#

Arbeiten Sie mit uns zusammen, profitieren Sie von unserer Erfahrung#

Sie haben Fragen zur Umsetzung einer KI-Prüfung? Sie benötigen Unterstützung und Beratung, wie Sie Ihre KI-Anwendung vertrauenswürdig gestalten? Dann arbeiten Sie mit uns zusammen!

Nutzen Sie die Expertise des Fraunhofer IAIS – eines der führenden Institute zwischen Wirtschaft und Wissenschaft im Bereich Künstliche Intelligenz in Europa – und vereinbaren Sie noch heute einen unverbindlichen Beratungstermin.

Unverbindlicher Beratungstermin

AI Trustworthiness Check

Wir analysieren Ihre KI-Anwendung systematisch im Hinblick auf Vertrauenswürdigkeit und Einsatzfähigkeit. Mit dem »AI Trustworthiness Check« bewerten wir Ihre KI-Anwendung nachvollziehbar und kostengünstig schon vor der Einführung im konkreten Use Case.

Zertifizierte Schulung

»Certified Data Scientist Specialized in Trustworthy AI«

Ethik, Recht, Transparenz – vertrauenswürdige KI sollte entlang bestimmter Handlungsfelder entwickelt werden. Diese Schulung vermittelt die Grundlagen dafür.

KI-Strategieberatung

Sie möchten die Potenziale Künstlicher Intelligenz in Ihrem Unternehmen nutzen aber wissen nicht, wie? Wir entwickeln mit Ihnen Ihre individuelle KI-Strategie.

Projekte rund um vertrauenswürdige KI#

Zertifizierte KI

Das Projekt Zertifizierte KI fördert die Entwicklung und Standardisierung von Prüfkriterien, -methoden und -werkzeuge für KI-Systeme, um die technische Zuverlässigkeit und einen verantwortungsvollen Umgang mit der Technologie zu gewährleisten.

KI-Absicherung

Wie kann man sicherstellen und nachweisen, dass KI-Module im autonomen Fahrzeug funktionieren? Daran arbeiten Automobilhersteller, Zulieferer, Technologie-Unternehmen und Forschungsinstitute im Projekt »KI-Absicherung«.

Förderung und Kooperation#

Die Entstehung des KI-Prüfkatalogs wurde gefördert durch das Ministerium für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen.

In Kooperation mit: