Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAISDas KI-Sprachmodell von OpenGPT-X wird für Unternehmen und Behörden noch einfacher nutzbar
»Teuken-7B« steht nun über die KI-Umgebungen der Telekom zur Nutzung bereit
Die Telekom und OpenGPT-X schaffen ein Angebot für KI-Modelle »Made in Germany« und stärken damit die digitale Souveränität für Unternehmen und Behörden in Deutschland. Eingebettet in die Foundation Services der Telekom Tochter T-Systems und das »Business GPT«-Produkt der Deutschen Telekom MMS stehen die Teuken-7B-Modelle Anwendern von Generativer KI zur sofortigen Nutzung zur Verfügung. Damit transferiert das Telekommunikationsunternehmen die Open-Source-Entwicklung aus dem Projekt OpenGPT-X erfolgreich von der Forschung in die Wirtschaft. Mit dem vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK) geförderten Projekt OpenGPT-X treibt ein Konsortium unter der Leitung der Fraunhofer-Institute IAIS und IIS die Entwicklung offener und vertrauenswürdiger KI-Sprachmodelle voran. Behörden und Unternehmen können so nun eine leistungsstarke, vertrauenswürdige und quelloffene Alternative zu den großen gängigen Modellen nutzen.
Die Telekom-Tochter T-Systems ermöglicht Unternehmen und öffentlichen Auftraggebern mit seinen AI Foundation Services die Entwicklung und den Betrieb von generativen KI-Anwendungen auf skalierbaren und sicheren Plattformen. Mit der Integration von Teuken-7B in seine Services ist das Telekommunikationsunternehmen der erste Anbieter aus der Wirtschaft, der den Zugang zu dem KI-Sprachmodell des Forschungsprojekts OpenGPT-X kommerziell zur Verfügung stellt. Das auf dem Jülicher Supercomputer JUWELS trainierte Sprachmodell wurde am 26. November 2024 unter einer Open-Source-Lizenz veröffentlicht. Unternehmen und Behörden können wählen, ob sie Teuken-7B oder andere in den AI Foundation Services verfügbare Modelle in hochsicheren, zertifizierten Telekom-Rechenzentren in Deutschland, DSGVO-konform in Europa oder sogar dediziert auf eigener Infrastruktur nutzen möchten.
Das neue Sprachmodell »Teuken-7B« wird außerdem direkt in das standardisierte Telekom-Produkt Business GPT integriert. Es unterstützt »out-of-the-box« RAG-Anwendungen (retrieval augmented generation) und fasst Dokumente und unternehmensinterne Chatbots zusammen. Über eine einheitliche Netzwerkschnittstelle (API) können Unternehmen mithilfe der AI Foundation Services das Modell auch in bestehende KI-Assistenten, Agenten und eigene Chatbots integrieren.
»Wann, wenn nicht jetzt braucht Europa mehr souveräne Lösungen. Nur durch gemeinsame europäische Anstrengungen können wir konkurrenzfähige Alternativen zu den großen internationalen Anbietern schaffen. Teuken-7B von Open GPT-X ist ein erstes Erfolgsprojekt ‚Made in Germany‘. Es ist ein wichtiges Puzzleteil in der digitalen Strategie von Kunden, für die Souveränität das A und O ist«, so Dr. Ferri Abolhassan, CEO T-Systems und Vorstandsmitglied Deutsche Telekom AG.
»Die Bereitstellung von Teuken als Open-Source-Modell hat mehrere Vorteile: Unternehmen können das Modell auf ihre Bedarfe anpassen - also spezialisierte Anwendungen damit entwickeln. Zudem können sie bestimmen, ob sie das Modell lokal auf der eigenen Infrastruktur oder bei einem vertrauenswürdigen Cloudanbieter ihrer Wahl betreiben wollen. Wenn gewünscht, können sensible Daten also im Unternehmen verbleiben«, sagt Dr. Nicolas Flores-Herr, Projektleiter am Fraunhofer IAIS.
Über OpenGPT-X
Das OpenGPT-X-Projekt mit seinen zehn Partnern startete am 1. Januar 2022 mit einer Förderung des Bundesministeriums für Wirtschaft und Klimaschutz (BMWK) in Höhe von rund 14 Millionen Euro und endet am 31. März 2025. Unter der Leitung von Fraunhofer IAIS und Fraunhofer IIS erforscht das Projekt die gesamte Wertschöpfungskette der Generativen KI: Von der hochskalierbaren, GPU-basierten Infrastruktur und den Daten für das Training großer Sprachmodelle, über die Entwicklung der Modelle, bis hin zur produktiven Anwendung in Form von Prototypen und Proof of Concepts (PoCs). Übergreifendes Ziel des Projektes war es, ein eigenes großes KI-Sprachmodell zu entwickeln, das für Forschung und Unternehmen Open Source zur Verfügung gestellt und insbesondere auf die multilingualen Bedürfnisse Europas ausgerichtet wird. Neben den beiden Fraunhofer-Instituten und dem Forschungszentrum Jülich haben der KI Bundesverband, die TU Dresden, das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI), IONOS, Aleph Alpha, ControlExpert sowie der Westdeutsche Rundfunk (WDR) als Partner in OpenGPT-X mitgearbeitet.
Zur Pressemitteilung von T-Systems International: Link
Zur Pressemitteilung zum Modell-Release von Teuken-7B: Link