Projekt ZERTIFIZIERTE KI

Prüfverfahren für eine KI-Zertifizierung »made in Germany«

Die rasante Entwicklung der Künstlichen Intelligenz (KI) eröffnet große Chancen für neue technische Anwendungen, digitale Businessmodelle und bietet praktische Erleichterungen im Alltagsleben. Während KI-Systeme immer komplexere Aufgaben übernehmen und zunehmend autonom agieren, erfordert der Umgang mit der Technologie ein hohes Maß an Verantwortung. Dabei helfen prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen und die auch Anwendenden sowie Verbraucher*innen Auskunft über zugesicherte Eigenschaften von KI-Technologien geben.

Im Rahmen einer strategischen Kooperation entwickeln Expert*innen des BSI und des Fraunhofer IAIS Prüfverfahren für KI-Systeme. Ziel der Kooperation ist es, technische Produkt- und Prozessprüfungen von KI-Systemen in der Wirtschaft zu etablieren und die Entwicklung einer KI-Zertifizierung »made in Germany« voranzubringen.

Um die Praxistauglichkeit und Marktfähig­keit der Prüfverfahren sicherzustellen, arbeiten die Partner mit renommierten Institutionen aus Forschung und Anwendung zusammen. Hierbei werden industrielle Bedarfe durch die aktive Einbindung von zahlreichen assoziierten Unternehmen und Organisationen berücksichtigt, welche unterschiedliche Branchen wie etwa Telekommunikation, Banken, Versicherungen, Chemie, und Handel repräsentieren. Mit diesem breiten Beteiligungsprozess wird sichergestellt, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln und gleichzeitig durch rechtliche, ethische und philosophische Betrachtungen flankiert werden.

Das Flagship-Projekt ZERTIFIZIERTE KI wird vom Land Nordrhein-Westfalen im Rahmen der Kompetenzplattform KI.NRW gefördert.

Aktuelles

 

30.09. & 1.10.2024

Symposium on
Scaling AI Assessments

Ziel dieses Symposiums ist es, marktfähige KI-Prüfungen für vertrauenswürdige KI voranzutreiben. Dabei liegt der Fokus der Veranstaltung auf Werkzeugen, Ökosystemen und Geschäftsmodellen, um den Herausforderungen bei der Durchführung von KI-Prüfungen zu begegnen. Beim Call for Papers können sich noch bis zum 22. Juli interessierte Autor*innen aus der internationalen vertrauenswürdigen KI-Community mit ihrem Beitrag bewerben.

Januar 2024

Whitepaper

Vertrauenswürdige KI-Anwendungen mit Foundation-Modellen entwickeln

Die Vertrauenswürdigkeit von KI-Anwendungen ist seit einiger Zeit Gegenstand der Forschung und wird auch mit der geplanten KI-Verordnung der EU adressiert. Mit den aktuell aufkommenden Foundation-Modellen im Bereich der Text-, Sprach- und Bildverarbeitung bieten sich völlig neue Möglichkeiten, KI-Anwendungen zu entwickeln. Dieses Whitepaper zeigt auf, wie die Vertrauenswürdigkeit einer mit Foundation-Modellen entwickelten KI-Anwendung bewertet und sichergestellt werden kann.

 

03.04.2024

Hannover Messe 2024

Lösungen für leistungsfähige und vertrauenswürdige Künstliche Intelligenz

Auf dem Fraunhofer-Stand der Hannover Messe 2024 konnten sich Fachbesucherinnen und -besucher anhand konkreter Use Cases und Lösungen aus dem Forschungsprojekt für vertrauenswürdige KI informieren und von unseren Projektexpertinnen und -experten persönlich erfahren, wie sie diese sicher in ihre Betriebsabläufe integrieren können.

Dimensionen zur Beurteilung der Qualität und Vertrauenswürdigkeit von KI

Als Grundlage für die Zertifizierung von KI-Systemen wurden in interdisziplinärer Zusammenarbeit sieben Dimensionen der Vertrauenswürdigkeit identifiziert. Die Ergebnisse wurden 2019 in dem Whitepaper »Vertrauenswürdiger Einsatz von Künstlicher Intelligenz« publiziert. Die Entwicklung der technischen Prüfverfahren setzt hier an.

Auf Basis der Erarbeitung technischer Prüfverfahren soll auch der interdisziplinäre Diskurs zur Gestaltung ethischer und rechtlicher Rahmenbedingungen weitergeführt werden. Ziel ist es, das Vertrauen und die Akzeptanz bei Unternehmen, Anwender*innen und gesellschaftlichen Akteuren in KI-basierte Anwendungen zu stärken. Die Entwicklung des Prüfkatalogs orientiert sich an den Empfehlungen der »Datenethikkommission« der Bundesregierung und die von der Europäischen Kommission beauftragte »High Level Expert Group on AI« und soll ein breites Spektrum technischer Qualitätskriterien, das neben Verlässlichkeit und Sicherheit auch Kriterien der Transparenz und Fairness abdeckt, berücksichtigen.

 

© Fraunhofer IAIS

Mehr Informationen und Angebote

 

Kostenfreier Leitfaden

KI-Prüfkatalog

Der KI-Prüfkatalog ist ein Leitfaden für die Gestaltung vertrauenswürdiger KI. Er unterstützt Entwickler*innen bei der Gestaltung sowie Prüfer*innen bei der Evaluation und Qualitätssicherung von KI-Anwendungen.

Umsetzung der KI-Verordnung

EU AI Act

Die KI-Verordnung als Innovationstreiber nutzen – Risiken minimieren, Chancen skalieren.

Unser Kompaktes Briefing für KMUs, Führungskräfte & betroffene Stakeholder, die Impulse für eine Operationalisierungs-Roadmap der der kommenden KI-Verordnung der EU erhalten möchten.

Whitepaper

Vertrauenswürdiger Einsatz von Künstlicher Intelligenz

Das Team der Universitäten Bonn und Köln sowie des Fraunhofer IAIS stellt seinen interdisziplinären Ansatz vor und erläutert die Handlungsfelder aus philosophischer, ethischer, rechtlicher und techno­logi­scher Sicht.

Die Publikation bildet die Grundlage für die weitere Entwicklung der KI-Zertifizierung.

 

13.6.2023

Fachlicher Austausch & innovative Praxisbeispiele zu KI-Prüfungen

Beim FORUM ZERTIFIZIERTE KI brachten wir wichtige Akteure aus Wissenschaft, Wirtschaft und Politik rund um vertrauenswürdige Künstliche Intelligenz zusammen und zeigten, wie Unternehmen sich auf die kommende Regulatorik vorbereiten und KI-Prüfungen gewinnbringend einsetzen können.

Unser Angebot für die Wirtschaft

Zuverlässige KI

IAIS-Expert*innen übernehmen mit Unternehmen die Prüfung von KI-Risiken, die Absicherung der KI-Systeme und die Vorbereitung einer KI-Zertifizierung.  

Handlungsempfehlungen

Normungsroadmap KI

Die Normungsroadmap des DIN gibt Handlungsempfehlungen für eine KI-Standardisierung. Sie ist Ergebnis der Arbeit von 300 Fachleuten, u.a. aus Wirtschaft und Wissenschaft (darunter Fraunhofer IAIS).

28.5.2021

Fraunhofer-Podcast

Dr. Maximilian Poretschkin (IAIS) und Filiz Elmas (DIN) erklären im Podcast das Vorhaben einer KI-Zertifizierung »made in Germany«.

Impulspapier der Plattform Lernende Systeme

Zertifizierung von KI-Systemen

Das Impulspapier beschreibt Nutzen und Anforderungen einer KI-Zertifizierung.

Plattform Lernende Systeme

Whitepaper »Kompass für die Entwicklung und Anwendung vertrauenswürdiger KI-Systeme«

24.11.2020

Projektstart

Nächster Schritt Richtung KI-Zertifizierung »made in Germany«: Fraunhofer IAIS und BSI starten strategische Kooperation zur Entwicklung von Prüfverfahren für die Zertifizierung von KI-Systemen

In Kooperation mit