Angebote für KI-Absicherung & KI-Prüfung

Ein Nachweis der Qualität von KI-Systemen fördert Vertrauen bei Nutzenden und schafft Wettbewerbsvorteile. Für den Produktiveinsatz von KI in Unternehmen ist es zudem wichtig, dass die KI verlässlich funktioniert und gesetzliche Vorgaben einhält. Mit dem EU AI Act ist ein komplexes regulatives Umfeld rund um KI entstanden. Daneben gibt es mittlerweile eine Vielzahl an KI-spezifischen Standards.

Wir kennen sowohl die aktuellen Entwicklungen in der Regulatorik und Standardisierung von KI als auch den wissenschaftlichen State-of-the-art im Bereich von vertrauenswürdiger KI. Dieses Wissen kombiniert mit unserer Erfahrung, was in der Praxis funktioniert, nutzen wir, um Ihre KI-Systeme bestmöglich technisch abzusichern und KI-Risiken zu mitigieren.  

Ihr Vorteil: Mit unserer Unterstützung erhalten Sie nachweisbar vertrauenswürdige KI-Lösungen, welche die aktuellen Sicherheits- und Qualitätsstandards erfüllen.

Kontakt aufnehmen

Anforderungsanalyse

Analyse von Normen und Gesetzestexten

Wir sagen Ihnen, welche Standards für Ihr KI-System relevant sind und wie sich Regulatorik technisch umsetzen lässt.

Umsetzung

Absicherung Ihres KI-Systems

Wir sichern Ihr KI-System durch geeignete technische Maßnahmen ab.

Umsetzung

Umsetzung der KI-Verordnung

Erhalten Sie Unterstützung bei der Umsetzung der KI-Verordnung (EU AI Act).

Umsetzung

Implementierung eines TAIOps-Frameworks

Ihre MLOps-Pipelines werden so erweitert, sodass regulative Vorgaben berücksichtigt werden.

Umsetzung

IT-Infrastruktur für KI-Prüflabore

Wir automatisieren KI-Prüfworkflows und integrieren KI-Prüfwerkzeuge in Ihre Arbeitsabläufe.

Prüfung

Entwicklung von KI-Prüfkriterien

Wir entwickeln geeignete KI-Prüfkriterien für Ihre Domäne und Anwendungskontexte.

Prüfung

Durchführung von KI-Prüfungen

Ihr KI-System wird durch uns geprüft und Sie erhalten einen wissenschaftlichen Prüfbericht.

 

Prüfung

Kostenfreier KI-Prüfkatalog

KI-Prüfung in 4 Schritten: Leitfaden und Anleitung

 

Schulung

Weiterbildungs-Programm EU AI Act

Vorträge, Briefings, Trainings und Kompakteinstiege abgestimmt auf die Anforderungen des EU AI Acts.

 

Brauchen Sie eine individuelle KI-Lösung?

Gerne beraten wir Sie unverbindlich und entwickeln eine Lösung speziell für Ihren Anwendungsfall.

Referenzen

Success Stories

Hier finden Sie eine Auswahl unserer Projektpartner.

Wie wir das Risikomanagement verbessert haben

Für ein großes internationales Unternehmen haben wir KI-Risikobewertungsframeworks verglichen. Basierend hierauf hat das Unternehmen sein weltweites KI-Risikomanagement optimiert.

So kann das global tätige KI-Unternehmen die Herausforderung bewältigen, unterschiedliche regionale normative Anforderungen an ihre KI-Systeme umzusetzen.

 

Freiwilliges KI-Gütesiegel für Unternehmen als Teil von MISSION KI

Damit KI-Innovationen vertrauenswürdig und erfolgreich am Markt bestehen können, brauchen Unternehmen klare Qualitätskriterien. Als wissenschaftlicher Partner im Rahmen der MISSION KI arbeiten wir gemeinsam mit PwC Deutschland, TÜV AI.Lab, VDE, AI Quality & Testing Hub und CertifAI an der Entwicklung eines freiwilligen KI-Mindestqualitätsstandards.

Dieser Standard ist anschlussfähig an die KI-Verordnung, adressiert spezifisch den Niedrigrisikobereich und bietet KI-Anbietern und Betreibern einen branchenübergreifenden, praktischen Leitfaden zur Absicherung von KI-Systemen. Die Einhaltung dieses Standards ermöglicht es Unternehmen, sich durch Qualität und Vertrauenswürdigkeit vom Wettbewerb abzuheben.

Große Sprachmodelle auf Bias überprüfen

Anbieter und Betreiber von KI-Systemen sind regulatorisch verpflichtet, Bias gegenüber geschützten Personengruppen im gesamten KI-Lebenszyklus zu erkennen und damit verbundene Diskriminierung und Unfairness zu verhindern. Dies ist insbesondere für große Sprachmodelle (LLMs) wichtig. Um diese Herausforderung zu bewältigen, entwickeln wir für einen internationalen Technologiekonzern eine textspezifische Daten-Bias-Pipeline. Diese Pipeline erkennt Verzerrungen in Trainingsdaten und reduziert sie mithilfe von innovativen Ansätzen.

Damit ermöglichen wir dem Technologiekonzern, große Datenmengen auf Bias zu überprüfen und zu verbessern. Dies erhöht die Fairness der darauf basierenden LLMs und schützt die Endnutzerinnen und Endnutzer gemäß den regulatorischen Anforderungen.

Prüfung von Hochrisiko-KI gemäß KI-VO für die Bundesnetzagentur

Die Bundesnetzagentur steht nach Inkrafttreten des EU AI Acts 2024/1689 (KI-VO) als Marktüberwachungsbehörde vor der Herausforderung, insbesondere Hochrisiko-KI-Systeme auf Nicht-Konformität mit den gesetzlich festgelegten Anforderungen und Pflichten prüfen zu müssen. Das betrifft neben der Überwachung von Systemen, die bereits auf dem Markt sind, auch die Prüfung, ggf. Genehmigung und das Testen von KI-Systemen bereits vor der Markteinführung. Die zu überwachenden KI-Systeme sind sehr heterogen und die Komplexität der Überwachungsanforderungen sehr hoch.

Ziel unserer Zusammenarbeit war es, ein strukturiertes Gutachten zu verfassen, das die Bundesnetzagentur bei diesem Vorhaben anleitet. Es sollte Umfang und Gegenstand der KI-Prüfungen untersuchen, technische Anforderungen für die Durchführung unabhängiger Tests formulieren und eine Übersicht geeigneter KI-Prüfwerkzeuge erarbeiten. Daneben wurde das jährliche Prüfaufkommen prognostiziert, um den benötigten Hardwareeinsatz und die laufenden Kosten für eine effiziente Marktüberwachung abschätzen zu können.

 

Zentrale Fragen
 

  • Welche KI-Systeme müssen überwacht werden und wie werden sie ausgewählt?
  • Wie können technische und formale Anforderungen der KI-VO effizient geprüft und dokumentiert werden?
  • Welche KI-Prüfwerkzeuge und Infrastrukturen können das Prüfpersonal effizient entlasten?

Projektergebnisse

Methodik & Checklisten

Unsere Wissenschaftlerinnen und Wissenschaftler erarbeiteten methodische Ansätze zur Identifikation, Auswahl und Prüfung von Hochrisiko-KI-Systemen, inklusive detaillierter Checklisten für die technische Dokumentation.

 

(Teil-)Automatisierung

Die Prüfaktivitäten wurden in klar definierte Verarbeitungsschritte überführt, um eine (teil-)automatisierte Prüfung mit spezialisierter Software zu ermöglichen. 

KI-Prüfwerkzeuge

Es wurde eine aktuelle Übersicht geeigneter KI-Prüfwerkzeuge und Prüfmethoden erstellt, klassifiziert und deren Automatisierungspotenziale identifiziert.

Prüfinfrastruktur

Anforderungen an eine leistungsfähige Prüfinfrastruktur wurden abgeleitet und eine modulare Architektur für eine KI-Prüfplattform skizziert, die bestehende Lösungen integriert.

 

Kontakt

Dr. Maximilian Poretschkin

Abteilungsleiter
AI Assurance and Assessments


»Unser interdisziplinäres Team mit informatischer und rechtswissenschaftlicher Expertise operationalisiert die gesamte Wertschöpfungskette für vertrauenswürdige KI.«

Veröffentlichungen

 

KI-Prüfkatalog: Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz

Download

 

KI-Anwendungen systematisch prüfen und absichern

Download Whitepaper


Vertrauenswürdige KI-Anwendungen mit Foundation-Modellen entwickeln

Download Whitepaper

 

Management System Support for Trustworthy AI

Download Studie