OpenGPT-X: Teuken 7B

»Teuken 7B« steht in folgenden Versionen zur Verfügung:

• »Teuken 7B-instruct-research-v0.4« für Forschungszwecke.
• »Teuken 7B-instruct-commercial-v0.4« für Unternehmen zur kommerziellen Nutzung unter der Lizenz »Apache 2.0«.
  Das Modell wurde durch ein »Instruction Tuning« bereits für den Chat optimiert. »Teuken 7B-instruct-commercial-v.04« ist in seiner Leistungsfähigkeit vergleichbar mit der Forschungsversion »Teuken 7B-instruct-research-v0.4«, wobei die Forschungsversion bei den Benchmarks um ein bis zwei Prozent bessere Ergebnisse erzielt.
• »Teuken 7B-instruct-v0.6« und »Teuken 7B-base-v0.6« für nicht-kommerzielle Zwecke unter der Lizenz »CC BY-NC 4.0«. Das Update weist im Vergleich zu »Teuken 7B-instruct-v.04« signifikante Verbesserungen auf, dazu gehören eine erhöhte Leistungsfähigkeit, verbesserte Robustheit und Zuverlässigkeit sowie eine erweiterte Anwendungsflexibilität.

»Teuken 7B« kann kostenfrei auf Hugging Face heruntergeladen werden.

Speziell für Unternehmen besteht die Möglichkeit an einem kostenfreien Webinar teilzunehmen, in denen Fraunhofer-Wissenschaftlerinnen und -Wissenschaftler erläutern, welche Anwendungen mit entsprechender Weiterverarbeitung auf Basis von »Teuken 7B« realisiert werden können.

»Teuken 7B-instruct-commercial-v0.4« ist multilingual und wurde durch ein »Instruction Tuning« für den Chat optimiert, ist also als mehrsprachiger Chatbot einsetzbar, z. B. im internationalen Kundenservice oder um Mitarbeitenden Unternehmenswissen zugänglich zu machen. 

Folgende weitere Anwendungen können mit »Teuken 7B-instruct-commercial-v0.4« umgesetzt werden:

Einsatzbereiche:

• Dokumente zusammenfassen
• Texte generieren
• Informationen aus Texten extrahieren

Um das Modell auf die eigenen Unternehmenszwecke anzupassen, kann »Teuken 7B-instruct-commercial-v0.4« durch Continued Pretraining, Finetuning, Instruction Tuning, Model Merging etc. weiterverarbeitet werden. So entsteht ein Modell, das für die individuellen Anwendungsfälle im Unternehmen optimiert ist.  

Wählen Sie die Version »Teuken 7B-instruct-commercial-v0.4«. Sie können dieses Modell für KI-Anwendungen kommerziell nutzen und es dafür auf die eigenen Unternehmenszwecke anpassen und zusätzlich mit eigenen Daten durch Continued Pretraining, Finetuning, Instruction Tuning, Model Merging etc. weiterverarbeiteten.

Das Modell schneidet im Leistungsvergleich mit anderen Open Source-Modellen gut ab, hat aber noch Entwicklungspotenzial in den Bereichen logisches Denken, Codieren und Mathematik. Zudem kann »Teuken 7B«, wie andere große Sprachmodelle auch, Inhalte generieren, die unangemessen, beleidigend oder schädlich sind. 

»Teuken 7B-instruct« ist ein Chatbot, der vor allem für Unternehmensanwendungen und Forschungsvorhaben gedacht ist. Entwicklerinnen und Entwickler aus Unternehmen und der Wissenschaftscommunity können damit ihre individuellen Chatanwendungen entwickeln. Um das Modell auf die eigenen Unternehmenszwecke anzupassen, kann »Teuken 7B-instruct-commercial-v0.4« zusätzlich mit eigenen Daten durch Continued Pretraining, Finetuning, Instruction Tuning, Model Merging etc. weiterverarbeitet werden.

Ja. Unternehmen können »Teuken 7B-instruct-commercial-v0.4« unter der Lizenz »Apache 2.0« für ihre KI-Anwendungen kommerziell nutzen.

Basismodelle sind besonders anfällig für das Generieren von unangemessen, beleidigenden oder schädlichen Inhalten. Zugleich bieten Basismodelle den Vorteil, dass sich diese bei einem fachlich richtigen und verantwortungsvollen Einsatz durch Finetuning und Instruction Tuning zu leistungsfähigen Spezialmodellen entwickeln lassen.

Das Basismodell in der Version Teuken 7B-base-v0.6 kann hier für die Forschung sowie für die private, bildungsrelevante und nicht-kommerzielle Nutzung heruntergeladen werden.

Aktuell nein. Der EU AI Act findet erst ab August 2025 Anwendung. KI-Modelle, die vor diesem Zeitpunkt in Verkehr gebracht wurden, müssen den Anforderungen des EU AI Act erst ab August 2027 entsprechen (Bestandsschutz).

Das Forschungsprojekt OpenGPT-X ist abgeschlossen.

Da es bei »Teuken 7B« um ein offenes LLM handelt, gehen wir zugleich davon aus, dass für unterschiedliche Anwendungszwecke angepasste oder spezialisierte Versionen des Modells aus der Wissenschaftscommunity oder auch aus Unternehmen heraus entstehen.

Alle Evaluierungsergebnisse sind über unser European LLM Leaderboard einsehbar:

• zum Leaderboard

Technische Infos zum Modell und zur Anwendung stehen in unserer Model Card:

• zur Model Card

Die zentralen Evaluierungsergebnisse haben wir aufbereitet:

• zu den Benchmarkgrafiken

Eine ausführliche Besprechung des Modells gibt es hier:

• zur OpenGPT-X Projektwebsite

Unsere Wissenschaftlerinnen und Wissenschaftler stehen mit der LLM-Community über den OpenGPT-X-Discord-Server in Kontakt. Hier ist auch der Ort für Fragen und Feedback rund um das Modell.

• mitdiskutieren