Ein großes KI-Modell, das natürliche Sprache verarbeitet, steckt hinter den spektakulären Erfolgen eines Chatbots, der eloquente, detaillierte Antworten geben und flüssige Texte schreiben kann. Dieses Dialogsystem namens ChatGPT – für »Chat Generative Pre-trained Transformer« – ist allerdings nur die Spitze des Eisbergs einer spannenden Entwicklung, die derzeit auf der ganzen Welt nicht nur KI-Fachleute elektrisiert.
Die meisten großen KI-Modelle werden bisher in den Vereinigten Staaten oder China entwickelt, so ist auch ChatGPT eine Entwicklung der US-amerikanischen Firma OpenAI. Mit dem vom Bundesministerium für Wirtschaft und Klimaschutz BMWK geförderten Projekt OpenGPT-X arbeitet ein Konsortium unter Leitung von Fraunhofer-Experten an einem deutschen KI-Sprachmodell, das bis Ende 2024 europäische Alternativen anbieten soll. Die Herausforderungen sind groß angesichts einer Konkurrenz, die viele Milliarden Dollar in ihre KI-Sprachmodelle investiert hat.
Wie kann dieser Vorsprung aufgeholt werden? Um das Potenzial großer KI-Modelle auch für Deutschland und Europa zu heben, braucht es neben der Technologie auch geeignete, leistungsfähige Infrastrukturen. Deshalb hat der KI Bundesverband mit weiteren Partnern, darunter dem Fraunhofer IAIS, die LEAM-Initiative (Large European AI Models) ins Leben gerufen. Die Initiative bringt Politik, Unternehmen und Forschungseinrichtungen mit dem Ziel zusammen, ein wettbewerbsfähiges europäisches KI-Ökosystem aufzubauen und die Entwicklung großer KI-Modelle zu fördern.
Machbarkeitsstudie »Große KI-Modelle für Deutschland«
Als einen der ersten wichtigen Schritte hat der KI Bundesverband im Auftrag des Bundesministeriums für Wirtschaft und Klimaschutz BMWK die Machbarkeitsstudie »Große KI-Modelle für Deutschland« herausgegeben. Die Studie analysiert das disruptive Potenzial großer KI-Modelle, insbesondere sogenannter AI-Foundation-Modelle – also flexibler, wiederverwendbarer KI-Modelle, die auf großen Mengen und einem breiten Spektrum von Daten trainiert wurden.
An der Studie mitgearbeitet haben auch Wissenschaftler des Fraunhofer IAIS und des Lamarr-Instituts für Maschinelles Lernen und Künstliche Intelligenz, die ihre langjährigen Erfahrungen mit der Entwicklung und Anwendung von KI-Technologien – insbesondere im Bereich Natural Language Processing (NLP) und Large Language Models (LLM) – einbringen konnten: Dr.-Ing. Joachim Köhler, Abteilungsleiter NetMedia am Fraunhofer IAIS und Principal Investigator am Lamarr-Institut, Dr. Nicolas Flores-Herr, Leiter Conversational AI am Fraunhofer IAIS Institutsstandort Dresden, Dr. Gerhard Paaß, Senior Data Scientist am Lamarr-Institut, Laszlo Friedmann, wissenschaftlicher Mitarbeiter am Fraunhofer IAIS, sowie Dr. Christian Temath, Geschäftsführer der Kompetenzplattform KI.NRW.
Die Autoren untersuchen gemeinsam mit weiteren Expertinnen und Experten aus Wissenschaft und Wirtschaft den Bedarf und mögliche Anwendungsfälle für große KI-Modelle insbesondere in Deutschland und Europa. In der Studie wird erläutert, wie ein gemeinsames Vorgehen von Politik, Wissenschaft und Wirtschaft dazu beitragen kann, ein KI-Ökosystem aufzubauen, das dem wachsenden Bedarf gerecht wird. Eine entscheidende Rolle spielt dabei eine auf KI ausgelegte Infrastruktur von Hochleistungsrechnern. Solch eine Bündelung der Kräfte für die Entwicklung großer KI-Modelle in Deutschland schafft die Voraussetzungen für die Wahrung ethischer Standards, die Stärkung der Wettbewerbsfähigkeit der europäischen Wirtschaft und die Sicherung der digitalen Souveränität.
LEAM-Konferenz – wirtschaftliche Potenziale und Aufbau eines KI-Ökosystems
Der Öffentlichkeit vorgestellt wurde die Studie »Große KI-Modelle für Deutschland« am 24. Januar 2023 auf der LEAM-Konferenz in Berlin, zu der auch Wissenschaftler des Fraunhofer IAIS ihre Expertise beisteuerten. Dr. Joachim Köhler nahm an einer Podiumsdiskussion teil, bei der die Anforderungen an Soft- und Hardware zur Erstellung großer KI-Modelle analysiert wurden. In einem weiteren Panel diskutierte Dr. Nicolas Flores-Herr über die Rolle von Sprachmodellen und deren Nutzen für den Alltag: »Für Unternehmen bietet dies faszinierendes Potenzial – unsere Vision ist es, dass Managerinnen und Manager künftig mit ihren Daten sprechen können«, erklärt er eines von vielen Anwendungsbeispielen der Technologie.
In weiteren Keynotes und Podiumsdiskussionen konnten sich die Teilnehmenden der LEAM-Konferenz einen Überblick verschaffen über die beeindruckende Entwicklung und die Potenziale großer KI-Modelle für Forschung und Wirtschaft. Im Fokus der Konferenz stand außerdem ein Ausblick auf notwendige konkrete Schritte, um ein KI-Ökosystem aufzubauen und die Infrastruktur und Rechenkapazitäten verfügbar zu machen, die für die Entwicklung großer deutscher und europäischer KI-Modelle nötig sind.
Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS
