Soofi – Sovereign Open Source Foundation Models

Soofi (Sovereign Open Source Foundation Models) ist ein deutsches Konsortialprojekt zur Entwicklung souveräner, offener KI-Basismodelle für Europa. Ziel ist es, Unternehmen, Mittelstand, Verwaltung, Forschung und Start-ups transparente und unabhängige Alternativen zu außereuropäischen KI-Modellen zu bieten.

Soofi wird von einem Konsortium aus führenden deutschen Forschungseinrichtungen, Universitäten und KI-Start-ups getragen: Deutsches Forschungszentrum für Künstliche Intelligenz DFKI, Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS, Fraunhofer-Institut für Integrierte Schaltung IIS, TU Darmstadt, Universität Würzburg, Berliner Hochschule für Technik, L3S Research Center der Leibniz Universität Hannover sowie Lamarr-Institut für Maschinelles Lernen und Künstliche Intelligenz. Dazu kommen die Start-ups ellamind und Merantix Momentum. Die Konsortialführung liegt beim KI-Bundesverband. Gefördert wird das Projekt vom Bundesministerium für Wirtschaft und Energie (BMWE) im Rahmen der europäischen IPCEI-CIS/8ra-Initiative.

»Soofi S« ist das erste Modell der Soofi-Modellfamilie: ein 30-Milliarden-Parameter-Modell mit hybrider Mamba-Transformer-Architektur als Mixture-of-Experts (MoE), bei dem pro Token nur rund drei Milliarden Parameter aktiv sind. Trainiert wurde es mit 27 Billionen Token mit Schwerpunkt auf Deutsch und Englisch. Veröffentlicht wird zunächst das Basismodell.

Ein Basismodell hat das Vortraining durchlaufen und dient als Ausgangspunkt für eigene Anpassungen. Genau darin liegt sein Wert: Wissenschaft, Industrie und öffentliche Hand können darauf eigene Modelle für ihre Fachdomäne und ihre Aufgaben aufbauen. Wer beim Basismodell ansetzt, behält die volle Kontrolle über jeden weiteren Schritt. Für Forschung und Domänenanpassung ist das Basismodell die entscheidende Veröffentlichung.

Ein instruktionsoptimiertes Modell (Post-Training) folgt zu einem späteren Zeitpunkt. Es richtet sich an alle, die »Soofi S« einsetzen wollen. Beide Varianten bilden das Fundament für weitere, größere Soofi-Modelle, darunter spezialisierte Varianten für Dialog-, Reasoning- und Agentenanwendungen.

»Soofi S« nutzt die offen publizierte Referenzarchitektur von Nemotron 3 Nano. So konnte in wenigen Monaten ein leistungsfähiges Modell trainiert werden. Parallel forschen wir an eigenen Architekturen als weiteren Baustein eines souveränen europäischen Modell-Stacks. Mixture of Experts (MoE) bedeutet, dass das Modell insgesamt 30 Milliarden Parameter besitzt, aber bei jeder Anfrage nur einen kleinen Teil davon aktiviert (rund 3 Milliarden). Das senkt den Rechenaufwand und die Hardwareanforderungen bei gleichbleibender Leistungsfähigkeit erheblich. In Kombination mit der hybriden Mamba-Transformer-Architektur bleibt die Verarbeitungsgeschwindigkeit auch bei sehr langen Texten nahezu konstant, was »Soofi S« besonders im industriellen Einsatz effizient macht.

Soofi verfolgt einen konsequent offenen Ansatz: Neben den Modellgewichten werden ausgewählte Zwischen-Checkpoints, der Trainings- und Evaluationscode sowie ein detailliertes Dateninventar veröffentlicht. Die Soofi-Modellfamilie soll nach Fertigstellung, Testung durch Unternehmen und Passieren aller erforderlichen Release Gates unter einer permissiven Lizenz veröffentlicht werden. Die bewusste Entscheidung für einen Open-Source-Ansatz ist ein zentrales Element der Souveränitätsstrategie des Projekts.

»Soofi S« wurde auf der Industrial AI Cloud der Deutschen Telekom in München trainiert, die gemeinsam mit NVIDIA aufgebaut und im Februar 2026 in Betrieb genommen wurde. Wir nutzten bis zu 512 NVIDIA-B200-GPUs – 64 DGX-B200-Knoten mit je acht GPUs – über rund 253.000 GPU-Stunden zwischen dem 24. März und dem 13. Mai 2026. Damit war »Soofi S« einer der ersten großen Trainings-Runs auf dieser neuen souveränen Infrastruktur im HPC-Maßstab. Das Münchner Rechenzentrum wird vollständig mit erneuerbarer Energie betrieben, mit Wasser aus dem nahegelegenen Eisbach gekühlt und ist in ein Abwärmekonzept eingebunden, das den umliegenden Tucherpark mitversorgt.

»Soofi S« wird aktuell im Rahmen von Betatests der IPCEI-CIS/8ra-Initiative getestet – einem europäischen Vorhaben mit über 100 Partnern aus Industrie, Mittelstand und Forschung in zwölf EU-Staaten. Die Veröffentlichung wird so bald wie möglich erfolgen.

Souveränität bedeutet für Soofi, dass europäische Organisationen KI-Technologie einsetzen können, ohne sich in dauerhafte Abhängigkeit von einzelnen außereuropäischen Anbietern zu begeben. Konkret heißt das: »Soofi S« wurde vollständig auf europäischer Infrastruktur trainiert (Industrial AI Cloud der Deutschen Telekom in München), die Trainingsdaten und -methoden sind dokumentiert und nachvollziehbar, und das Modell kann auf eigener Hardware betrieben werden. Unternehmen und Behörden behalten so die Kontrolle über ihre Daten, ihre Wertschöpfung und ihre technologische Unabhängigkeit.

»Soofi S« nutzt die offen publizierte Referenzarchitektur von Nemotron 3 Nano. So konnte in wenigen Monaten ein leistungsfähiges Modell trainiert werden. Parallel forschen wir an eigenen Architekturen als weiteren Baustein eines souveränen europäischen Modell-Stacks.

Das Bundesministerium für Wirtschaft und Energie fördert Soofi mit rund 20 Millionen Euro. Die Finanzierung erfolgt im Rahmen der europäischen IPCEI-CIS/8ra-Initiative und wird durch Mittel der Europäischen Union (NextGeneration EU) kofinanziert.