Prüfverfahren für eine KI-Zertifizierung »made in Germany«
Die rasante Entwicklung der Künstlichen Intelligenz (KI) eröffnet große Chancen für neue technische Anwendungen, digitale Businessmodelle und bietet praktische Erleichterungen im Alltagsleben. Während KI-Systeme immer komplexere Aufgaben übernehmen und zunehmend autonom agieren, erfordert der Umgang mit der Technologie ein hohes Maß an Verantwortung. Dabei helfen prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen und die auch Anwendenden sowie Verbraucher*innen Auskunft über zugesicherte Eigenschaften von KI-Technologien geben.
Im Rahmen einer strategischen Kooperation entwickeln Expert*innen des BSI und des Fraunhofer IAIS Prüfverfahren für KI-Systeme. Ziel der Kooperation ist es, technische Produkt- und Prozessprüfungen von KI-Systemen in der Wirtschaft zu etablieren und die Entwicklung einer KI-Zertifizierung »made in Germany« voranzubringen. Um die Praxistauglichkeit und Marktfähigkeit der Prüfverfahren sicherzustellen, arbeiten die Partner mit renommierten Institutionen aus Forschung und Anwendung zusammen.
Leuchtturm-Projekt aus NRW legt Bedarfe fest und führt Pilotprüfungen durch
Anfang 2021 startet das Fraunhofer IAIS ein großes Flagship-Projekt mit dem BSI, den Universitäten Bonn und Köln, der RWTH Aachen, dem Deutschen Institut für Normung DIN sowie zahlreichen DAX-30- und weiteren Unternehmen aus unterschiedlichen Branchen wie Telekommunikation, Banken, Versicherungen, Chemie und Handel. In branchen- und technologiebezogenen Anwenderkreisen definieren die Beteiligten konkrete Bedarfe, legen Kriterien und Maßstäbe für eine Prüfung in der Praxis fest und führen Pilotprüfungen durch. Mit diesem breiten Beteiligungsprozess wird sichergestellt, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln und gleichzeitig durch rechtliche, ethische und philosophische Betrachtungen flankiert werden.
Das Flagship-Projekt wird vom Land Nordrhein-Westfalen im Rahmen der Kompetenzplattform KI.NRW gefördert.