EU AI Act: Umsetzung der KI-Verordnung

Die KI-Verordnung als Innovationstreiber nutzen – Risiken minimieren, Chancen skalieren

Mit der Verabschiedung der KI-Verordnung treten wichtige regulatorische Anforderungen für den Einsatz von KI in Kraft. Diese betreffen sowohl eine Vielzahl von KI-Systemen als auch die Organisationen, welche diese entwickeln und einsetzen. Für Unternehmen kommt es nun darauf an, die Übergangsfrist dafür zu nutzen, die regulatorischen Anforderungen effizient und möglichst pragmatisch umzusetzen.

Unser Briefing zur Operationalisierung des AI Acts gibt einen Überblick zu den Anforderungen und Kernelementen der KI-Verordnung.  Zudem zeigt es auf, wie Sie regulatorische Anforderungen in Unternehmensprozesse übersetzen und in technische Entwicklungsumgebungen implementieren können. Das Ziel dabei ist, eine KI-Governance zu etablieren, die nicht nur ethischen und rechtlichen Anforderungen gerecht wird, sondern insbesondere auch KI-Anwendungen mit hoher Qualität, Zuverlässigkeit und Robustheit hervorbringt. Hierzu vermittelt das Briefing, wie sich KI-Risiken evaluieren lassen und die Qualität von KI-Systemen systematisch und nachweisbar gesichert wird. Zudem zeigen wir, wie sich die Anforderungen an KI-Qualität und Vertrauenswürdigkeit in das MLOps Vorgehensmodell integrieren lassen, wodurch die Konformität mit den Anforderungen by design skalierbar implementiert werden können.

Weiterführendes Angebot: KI-Governance und Qualitätsmanagement Framework

Neben dem kompakten Briefing als Einstiegsangebot bietet das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS Unternehmen vertiefende Unterstützung bei der Umsetzung der KI-Verordnung. Dafür haben die Fraunhofer-Expert*innen ein KI-Governance und Qualitätsmanagement Framework entwickelt.

Hierbei profitieren Sie von dem Know-How einer führenden Forschungsorganisation, welche seit 30 Jahren KI-Systeme nach hohen Qualitätsstandards entwickelt. Zudem haben wir die Operationalisierung von KI-Qualität und Vertrauenswürdigkeit maßgeblich mitgeprägt und bereits zahlreiche Organisationen bei der Entwicklung von vertrauenswürdiger KI unterstützt.

Unser Angebot

Wir unterstützen Sie mit unserer langjährigen Expertise bei folgenden Fragen:

 

  • Welche Anforderungen aus der KI-Verordnung, Normen & Standards sind für Ihr Unternehmen relevant?
  • Wie können diese Anforderungen in Unternehmensprozesse übersetzt werden und welche Rollen und Verantwortlichkeiten ergeben sich daraus?
  • Welches Vorgehen eignet sich für die Risikobeurteilung existierender KI-Systeme und neuer KI-Projekte?
  • Wie können Tools und Metriken bei einer Automatisierung der Prüfung und des Monitorings von KI-Systemen unterstützen?
  • Wie kann eine hohe Qualität, Zuverlässigkeit und Robustheit bei KI-Anwendungen sichergestellt werden, sodass Unternehmensziele erreicht werden?

Briefinginhalte

Diese Inhalte vermitteln wir in unserem kompakten Briefing-Format:

Anforderungen aus der KI-Verordnung, Normen & Standards

  • Überblick zu den Anforderungen der KI-Verordnung
  • Erläuterung des risikobasierten Ansatzes und der Risikoklassifizierung von KI-Anwendungsfällen
  • Anforderungen an Foundation-Modelle und Anwendungen, die auf Foundation-Modellen beruhen
  • Konformitätsvermutung und harmonisierte Standards, sowie Überblick zu den Ergebnissen aus Standardisierungsinitiativen auf nationaler, europäischer und internationaler Ebene

Aufsetzen eines KI-Management Systems

  • Zusammenspiel von Governance, Management, Prozessen und Richtlinien
  • AI Act Konformitätsprüfung auf Basis des KI-Management-Systems und technischer Dokumentation

KI-Compliance & -Assessment

  • Inhaltliche Dimensionen einer vertrauenswürdigen KI
  • Risikobewertungsansätze für KI-Anwendungen gemäß nationalen und internationalen Standards
  • Operationalisierung und Durchführung von KI-Prüfungen am Beispiel des Fraunhofer-Prüfkatalogs

Vertrauenswürdiger KI-Entwicklungsprozess

  • Integration von KI-Vertrauenswürdigkeit in MLOps Prozesse
  • Etablierung von Qualitätsstandards und regulatorischen Anforderungen des AI Acts bereits in der Entwicklungsphase (»by design«)
  • Dokumentation, Monitoring und Auditierbarkeit als Bestandteil des KI-Lebenszyklus

Optional: Tools und Metriken als Grundlage zur Nachvollziehbarkeit und Reproduzierbarkeit

  • Technische KI-Prüfung, unterstützt durch spezielle Software-Werkzeuge und Metriken
  • Einblicke in Testverfahren auf Basis einer Prüfplattform
© mozZz - stock.adobe.com

Weiterführendes Angebot – Erste Schritte für eine AI Act Compliance

Neben dem kompakten Briefing als Einstiegsangebot hat das Fraunhofer IAIS ein KI-Governance & Qualitätsmanagement Framework entwickelt, das Organisationen bei der Umsetzung der Vorgaben des AI Acts unterstützt.

Findet die KI-Verordnung Anwendung auf mein Unternehmen und was muss beachtet werden?

Im ersten Schritt brauchen Sie ein klares Verständnis davon, wie das Risiko der KI-Systeme in Ihrem Unternehmen bewertet wird und wie eine Bestandsaufnahme aller eingesetzten oder entwickelten KI-Systeme (Eigenentwicklungen und extern eingekaufte) erfolgt.

Wie stelle ich im Unternehmen einen verantwortungsvollen Umgang mit KI sicher?

Definieren Sie Ziele und Leitplanken für den Einsatz von KI, Prozesse sowie Rollen und Verantwortlichkeiten in Ihrer Organisation. Die Ergebnisse werden in einer KI-Policy und Leitlinien zusammengefasst.

 

Wie kann ich sicherstellen, dass meine KI-Systeme zuverlässig das tun, was sie sollen?

Hierfür integrieren Sie ein KI-Qualitätsmanagement in Ihren KI-Entwicklungsprozess und Lebenszyklus Ihrer KI-Anwendung – ein zentrales Thema der KI-Verordnung. Dabei wird die Vertrauenswürdigkeit und Qualität »by design« sichergestellt.

Können wir Sie unterstützen? Kontaktieren Sie uns für ein erstes Beratungsgespräch.

* Pflichtfelder

Hinweis: Gemäß Datenschutzgrundverordnung (DSGVO) unterrichten wir Sie über die Speicherung Ihrer Daten. Die Einwilligung zur Speicherung und Nutzung Ihrer Daten erfolgt freiwillig und kann jederzeit widerrufen werden.