Systeme der Künstlichen Intelligenz (KI) sind fester Bestandteil unseres Alltags geworden. Wir nutzen sie intuitiv und selbstverständlich. Gleichzeitig gibt es oft noch Vorbehalte und Skepsis gegenüber der Technologie. Um Unternehmen, Politik und Verbraucher*innen dabei zu unterstützen, den Nutzen von KI eigenverantwortlich beurteilen zu können, arbeiten die Fraunhofer-Institute für Angewandte und Integrierte Sicherheit AISEC sowie für Intelligente Analyse- und Informationssysteme IAIS an technischen Grundlagen für diskriminierungsfreie, faire, sichere und robuste KI-Systeme. Ihre Kompetenzen bringen sie nun auch in das neu gegründete Zentrum für vertrauenswürdige Künstliche Intelligenz ein.

Ziel des Zentrums ist es, Verbraucher*innen dazu zu befähigen, die Vor- und Nachteile von KI abzuwägen, Folgen abzuschätzen sowie souverän und selbstbestimmt Entscheidungen zur Nutzung von KI-Systemen zu treffen. Denn neben der technisch vertrauenswürdigen Gestaltung und systematischen Zertifizierung der Systeme ist ein souveräner Umgang mit den Technologien unerlässlich, um das Vertrauen der Menschen in KI-Anwendungen zu stärken.

Das vom Bundesministerium für Justiz und Verbraucherschutz (BMJV) geförderte Projekt soll im Wesentlichen vier Ziele erfüllen:

• Aufklärung und Information der Verbraucher*innen durch fundierte Hintergrundinformationen und Leitfäden zu den Chancen und Risiken von Künstlicher Intelligenz
• Bereitstellung technischer Lösungen und Zertifizierungsschemata zum Nachweis der Anforderungen an eine vertrauenswürdige KI, damit Verbraucher*innen ein höheres Maß an Informiertheit und Selbstbestimmtheit im Kontext digitaler Dienste erhalten
• Wissenschaftliche Begleitung bei der Entwicklung neuer Anforderungen an den Rechtsrahmen zum Schutz von Verbraucher*innen und Erarbeitung konkreter Handlungsempfehlungen für Entscheidungsträger*innen in Politik, Zivilgesellschaft und Wirtschaft (z.B. Entwickler*innen von KI-Systemen)
• Entwicklung von Schemata und Konzepten zur Evaluation, um zu überprüfen, ob Systeme die Anforderungen an eine vertrauenswürdige KI erfüllen
  

Das Fraunhofer IAIS bringt seine Expertise in der Entwicklung von KI-Prüfverfahren und Zertifizierungsmöglichkeiten ein. Im NRW-Flagship-Projekt »Zertifizierte KI« arbeitet das Fraunhofer IAIS mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und dem Deutschen Institut für Normung (DIN) sowie weiteren Partnern aus Forschung und Wirtschaft an der Entwicklung von Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz. Das Institut hat im Juli 2021 einen Prüfkatalog zur systematischen Evaluation der Vertrauenswürdigkeit von KI-Systemen veröffentlicht.

»Die Vertrauenswürdigkeit und Zertifizierung von KI-Systemen sind Kernthemen unserer Arbeit am Fraunhofer IAIS. Wir freuen uns, dass wir durch die Beteiligung an diesem Projekt die Verbraucherinteressen bei der Entwicklung von Prüfverfahren künftig noch stärker in den Fokus rücken können«, sagt Dr. Maximilian Poretschkin, Projektleiter und verantwortlich für das Thema KI-Absicherung und -Zertifizierung am Fraunhofer IAIS.

Das Fraunhofer AISEC unterstützt das Projekt mit seiner langjährigen Erfahrung im Bereich KI insbesondere in den Schwerpunkten Diskriminierungsfreie KI, Privacy Preserving Machine Learning und prüfbarer Robustheit sowie Zuverlässigkeit von KI-Systemen. Damit ergänzen sich die Aktivitäten zu zertifizierbarer KI von Fraunhofer IAIS und Fraunhofer AISEC ideal in diesem Projekt.

Neben den Fraunhofer-Instituten ist die Freie Universität Berlin an dem Projekt beteiligt. Die Gesamtkoordination übernimmt der Think Tank iRights.Lab.