Forschung zu Künstlicher Intelligenz

Agentic AI steht für KI-Systeme, die eigenständig denken, lernen und handeln, um komplexe, mehrstufige Probleme möglichst autonom zu lösen. Die Systeme können in dynamischen Umgebungen selbstständig reagieren und ihre Workflows oder Pläne an neue Situationen anpassen. Agentic AI nutzt das Instrumentarium der generativen KI. Agentic-AI-Systeme reichen von einzelnen KI-Agenten über Multiagentensysteme bis hin zu mächtigen Foundation-Modellen.

Agent-to-Agent (A2A) ist ein Standard zur Kommunikation und Zusammenarbeit zwischen autonomen KI-Agenten. Es gibt bereits öffentliche Kataloge, in denen ein Agent passende externe Agenten für eine bestimmte Teilaufgabe dynamisch finden kann. Es wird erwartet, dass im Internet ein neues Ökosystem für KI-Agenten entsteht, das »Agentic Web« oder Web 4.0.

Artificial General Intelligence (AGI) ist eine hypothetische Art von KI, die über kognitive Fähigkeiten auf menschlichem Niveau verfügt. Im Gegensatz zu schwacher KI, die auf bestimmte Aufgaben beschränkt ist, könnte eine AGI auch ihr bisher unbekannte Probleme flexibel und kreativ lösen. Modelle der generativen KI sind ein wichtiger Zwischenschritt auf dem Weg zur AGI.

In der Informatik ist ein Algorithmus eine genaue Berechnungsvorschrift zur Lösung einer Aufgabe. Ein Lernalgorithmus (oder selbstlernender Algorithmus) ist ein Algorithmus, der Beispieldaten (Lerndaten oder Trainingsdaten) erhält und ein Modell für die gesehenen Daten berechnet, das auf neue Beispieldaten angewendet werden kann.

Bias in der Künstlichen Intelligenz bezeichnet systematische Verzerrungen oder Voreingenommenheiten, die auftreten, wenn KI-Modelle auf fehlerhaften, unausgewogenen oder nicht repräsentativen Trainingsdaten basieren oder algorithmische Fehlannahmen aufweisen. Ein KI-System mit Bias kann diskriminierende oder stereotype Ergebnisse erzeugen

Data Science ist ein interdisziplinäres Wissenschaftsfeld, das sich mit Methoden, Prozessen und Algorithmen zur Extraktion von Erkenntnissen aus strukturierten und unstrukturierten Daten beschäftigt. Im Berufsfeld von Data Scientists sind Kenntnisse aus Mathematik, Betriebswirtschaftslehre, Informatik und Statistik erforderlich. Data Scientists identifizieren und analysieren verfügbare Datenressourcen, eruieren Bedarfe und entwickeln Konzepte, um die Daten gewinnbringend zu nutzen.

Das Fraunhofer IAIS bietet im Rahmen der Fraunhofer-Allianz Big Data und Künstliche Intelligenz Data-Scientist-Schulungen an.

Deep Learning umfasst Lernalgorithmen, die als Modelle künstliche neuronale Netze mit vielen Schichten künstlicher Neuronen erzeugen. Tiefes Lernen ist verantwortlich für viele Erfolge in der Sprach- und Text- sowie Bild- und Videoverarbeitung. Tiefe Netze bezeichnet man als Black Boxes, weil die für das Lernen relevanten Merkmale selbstständig gebildet werden und sich als Zahlen in den Gewichten zwischen den Knoten ausdrücken. Diese Gewichte nennt man Parameter.

Domänenspezifische KI-Modelle sind genau auf die Bedürfnisse eines bestimmten Fachgebiets abgestimmt, mit dem Ziel, dort besonders präzise, effizient und kostengünstig zu arbeiten. Meist entwickelt man sie aus Foundation-Modellen durch Nachtrainieren mit einschlägigen Daten. Durch einen Prozess namens Knowledge Distillation (Wissensdestillation) gewinnt man besonders kompakte und damit effiziente Modelle.

Embedded AI bezeichnet die Integration von Künstlicher Intelligenz direkt in Hardwaregeräte und Systeme, sodass diese KI-Funktionen wie Datenverarbeitung, Entscheidungsfindung und Mustererkennung lokal und in Echtzeit ausführen können, ohne auf externe Server oder die Cloud angewiesen zu sein. Interpretiert und steuert die KI in dem Gerät Sensoren und Aktuatoren, spricht man auch von physischer KI.

Der EU AI Act ist ein KI-Gesetz der Europäischen Union, das Regeln und Anforderungen für den Einsatz von KI-Systemen festlegt. Ziel ist es, die Entwicklung und Nutzung von vertrauenswürdiger KI in Europa sicherzustellen, indem Risiken bewertet, Transparenz gefordert und bestimmte Anwendungen reguliert oder verboten werden.

Foundation Modelle sind tiefe künstliche neuronale Netze mit Milliarden bis Billionen von Parametern. Diese Modelle werden auf Hochleistungsrechnern mit riesigen Datensätzen trainiert. Dabei setzt man auf selbstüberwachtes Lernen, das ohne Annotationen auskommt.

Mit Text trainierte Foundation-Modelle nennt man große Sprachmodelle. Sie können sehr vielfältige Aufgaben lösen, wie Fragen beantworten oder Texte erzeugen, überarbeiten oder übersetzen, ohne dafür speziell trainiert worden zu sein. Man spricht hier von emergenten Fähigkeiten. Um das gewünschte Verhalten zu verstärken, werden die Modelle mit weiteren Lernverfahren und Daten nachtrainiert. Halluzinationen, Bias und mangelnde Transparenz zählen zu den Risiken generativer KI-Modelle, die im Kontext vertrauenswürdiger KI behandelt werden.

Generative Künstliche Intelligenz (GenAI) ermöglicht es, Inhalte wie Texte, Bilder, Audio, Code oder strukturierte Daten allein durch einfache Texteingaben (Prompts) zu erzeugen.

Das Fundament der generativen KI sind große Sprachmodelle, Reasoning-Modelle oder multimodale Modelle. In modernen KI-Systemen, interaktiven KI-Assistenten oder autonomen KI-Agenten werden sie über Retrieval-Augmented-Generation mit externem Wissen, mit einem individuellen Gedächtnis oder mit externen Tools ausgestattet. Das Model Context Protocol (MCP) ist ein wichtiger Standard zur Verbindung von Modellen und externen Tools.

Erfahren Sie mehr zum Thema Generative KI am Fraunhofer IAIS.

Hybride KI kombiniert verschiedenartige Technologien der Künstlichen Intelligenz, wie generative KI, Deep Learning, klassische maschinelle Lernalgorithmen oder Schlussfolgern auf Basis von strukturiertem Expertenwissen (Knowledge Graphs). Ziel ist es, die Flexibilität und Effizienz, vor allem aber die Präzision, Transparenz und Robustheit eines KI-Systems zu erhöhen.

Erfahren Sie mehr zum Thema Hybride KI am Fraunhofer IAIS.

Künstliche Intelligenz ist ein Teilgebiet der Informatik und befasst sich damit, wie ein Computer intelligentes, menschliches Verhalten nachahmen kann. Dabei ist weder festgelegt, was »intelligent« bedeutet, noch welche Technik zum Einsatz kommt. Wissensbasierte Technologien, maschinelles Lernen, tiefes Lernen und generative KI sind verschiedene KI-Technologien, die in der hybriden KI kombiniert werden, um die jeweiligen Schwächen zu kompensieren. Ein großer Durchbruch der KI-Forschung wäre die Entwicklung einer Artificial General Intelligence.

KI-Halluzinationen sind falsche oder irreführende Ergebnisse, die von großen KI-Sprachmodellen erzeugt werden. Die Modelle generieren scheinbar plausible, grammatikalisch korrekte und kohärente Texte oder andere Inhalte, die jedoch faktisch falsch, erfunden oder ohne reale Grundlage sind. Eine wichtige Gegenmaßnahme ist das Grounding, also die Überprüfung der Ausgaben anhand verlässlicher Datenquellen.

Maschinelles Lernen bezweckt die Generierung von »Wissen« aus »Erfahrung«, indem Lernalgorithmen aus Beispielen ein komplexes Modell entwickeln. Das Modell, und damit die automatisch erworbene Wissensrepräsentation, kann anschließend auf neue, potenziell unbekannte Daten derselben Art angewendet werden. Immer dann, wenn Prozesse zu kompliziert sind, um sie analytisch zu beschreiben, aber genügend viele Beispieldaten – etwa Sensordaten, Bilder oder Texte – verfügbar sind, bietet sich Maschinelles Lernen an. Mit den gelernten Modellen können Vorhersagen getroffen oder Empfehlungen und Entscheidungen generiert werden, ganz ohne im Vorhinein festgelegte Regeln oder Berechnungsvorschriften.

Erfahren Sie mehr zum Thema Machine Learning am Fraunhofer IAIS. 

Multimodale Foundation-Modelle können Daten in verschiedenen Modalitäten verarbeiten, wie Text, Sprache, Bilder, Videos, Audio und andere sensorische Eingaben. Es ist zu unterscheiden, welche Modalitäten ein Modell verstehen und welche es produzieren kann. Manche Modelle verarbeiten die verschiedenen Modalitäten »end-to-end«, in einem Stück und ohne dass verschiedene Modelle kombiniert werden.

Prompt Engineering ist die Disziplin, Anweisungen oder Eingaben (Prompts) für generative KI-Modelle so zu gestalten, dass sie präzise, relevante und konsistente Ergebnisse liefern. Beim Few-Shot-Prompting gibt man zu der Aufgabe ein oder mehrere Beispiele. Beim Chain-of-Thought-Promting fordert man das Modell auf, die Aufgabe zunächst in Teilaufgaben zu zerlegen und diese schrittweise abzuarbeiten. Beim Context-Engineering versucht man, nicht nur den Prompt, sondern die gesamte Eingabe zu optimieren, zum Beispiel, indem man per RAG relevante Daten zuliefert.

Quantencomputer basieren ihre elementaren Rechenschritte nicht auf klassischen Bits, sondern auf quantenmechanischen Zuständen, sogenannten Qubits, und auf besondere Eigenschaften wie Superposition und Verschränkung, um sehr viel paralleler und komplexer zu rechnen. Quantum Machine Learning (QML) erforscht verschiedene Quantenalgorithmen für das maschinelle Lernen,  darunter auch Algorithmen für Quanten-Neuronale-Netze (QNN).

Erfahren Sie mehr zum Thema Quantencomputing am Fraunhofer IAIS.

Reasoning-Modelle sind große Sprachmodelle, die nicht unmittelbar antworten, sondern ihre Aufgabe in mehrere Schritte zerlegen, mit Fehlschlägen umgehen und diesen Prozess dokumentieren. Sie empfehlen sich für komplexe, mehrstufige Fragestellungen, die präzises und nachvollziehbares Problemlösen erfordern, wie zum Beispiel in KI-Agenten. 

Reinforcement Learning, bzw. bestärkendes oder verstärkendes Lernen, ist ein Ansatz des maschinellen Lernens, bei dem das Modell nach und nach durch Feedback auf seine Ergebnisse trainiert wird. Reinforcement Lernen kann zum Nachtrainieren von Foundation-Modellen oder in KI-Agenten eingesetzt werden.

Retrieval-Augmented Generation (RAG) ist eine Methode, um ein großes Sprachmodell mit relevanten Daten aus externen, aktuellen und spezifischen Wissensquellen zu versorgen. Mit RAG lassen sich die Antworten des Modells kontextbezogener, präziser und aktueller gestalten, ohne das eigentliche Modell neu trainieren zu müssen. RAG ist besonders nützlich, um Halluzinationen zu reduzieren. 

Überwachtes und selbstüberwachtes Lernen sind zwei Ansätze des maschinellen Lernens. Für das überwachte Lernen muss zu jedem Datenbeispiel das korrekte Ergebnis (Annotation, Label) mitgegeben werden. Der Lernalgorithmus optimiert das Modell, indem er dessen Voraussagen mit den richtigen Ergebnissen vergleicht. Beim selbstüberwachten Lernen generiert der Lernalgorithmus die Annotationen selbstständig, zum Beispiel, indem er Lücken in den Daten erzeugt, die das Modell dann vorhersagen soll. Das ist ein großer Vorteil, da Daten mit Annotationen meist Mangelware sind. Das selbstüberwachte Lernen von Foundation-Modellen ist essenziell für den Erfolg der generativen KI.

Tokens nennt man die kleinsten sprachlichen Einheiten in großen Sprachmodellen. Tokens sind häufige Wortbestandteile. Die Gesamtzahl der Tokens beeinflusst die Größe des Modells. Die Anzahl der Tokens in einer Eingabe ist oft relevant für die Abrechnung bei der Nutzung des Modells über ein Programm (API). Ein Tokenizer zerlegt Texte in Tokens.

Vertrauenswürdige KI-Anwendungen funktionieren zuverlässig, agieren transparent und nachvollziehbar, respektieren den Datenschutz, handeln fair und diskriminierungsfrei und stehen unter menschlicher Aufsicht. Sie sollen Risiken minimieren, Grundrechte achten und verantwortungsvoll eingesetzt werden.