Emergentes Verhalten in der AI: echt oder nur ein Messartefakt?

LLM-GrundlagenModelle und InferenzVeröffentlicht Von Simon Budziak

Emergentes Verhalten in der AI sind Fähigkeiten oder Verhaltensweisen, die niemand programmiert hat und die kleinere oder einfachere Systeme nicht zeigen. Bei Sprachmodellen sind das Fähigkeiten, die erst ab einer bestimmten Größe auftreten, bei Multi-Agenten-Systemen Gruppenverhalten, das keinem einzelnen Agenten aufgetragen wurde. Aus den Einzelteilen lässt es sich nicht vorhersagen.

Was sind emergente Fähigkeiten großer Sprachmodelle?

Fähigkeiten, die kleinen Modellen fehlen und die große Modelle haben. Die gängige Definition stammt von Wei und Kollegen: „We consider an ability to be emergent if it is not present in smaller models but is present in larger models“ (Emergent Abilities of Large Language Models, TMLR 2022, abgerufen am 16. November 2026). Derselbe Abstract nennt die praktische Folge: Solche Fähigkeiten „cannot be predicted simply by extrapolating the performance of smaller models“. Ein Fähigkeitstest an einem kleinen Modell sagt wenig darüber, was ein größeres leisten wird. Das ist ein Grund, warum jedes neue Frontier-Modell eine eigene Evaluierung braucht, statt Annahmen vom Vorgänger zu erben.

Sind emergente Fähigkeiten echt oder ein Messartefakt?

Teilweise ein Artefakt, sagt das stärkste Gegenargument. Schaeffer, Miranda und Koyejo argumentieren, dass emergente Fähigkeiten „appear due to the researcher’s choice of metric rather than due to fundamental changes in model behavior with scale“: Nichtlineare oder unstetige Metriken erzeugen plötzliche Sprünge, während lineare oder stetige Metriken auf denselben Ausgaben eine gleichmäßige, vorhersagbare Verbesserung zeigen (Are Emergent Abilities of Large Language Models a Mirage?, 2023, abgerufen am 16. November 2026).

Sicht der Emergenz Sicht des Messartefakts
Behauptung Neue Fähigkeiten tauchen jenseits einer Größenschwelle abrupt auf Die Sprünge entstehen durch eine Alles-oder-nichts-Bewertung
Ursache Verändertes Modellverhalten mit wachsender Größe Die Wahl der Metrik durch die Forschenden
Was zu tun ist Bei jedem Upgrade mit Überraschungen rechnen Teilpunkte vergeben, um Veränderungen kommen zu sehen

Für die Praxis führen beide Lesarten zum selben Vorgehen: Messen Sie genau das Modell und die Metrik, die Sie tatsächlich ausliefern. Vergeben Sie Teilpunkte statt nur bestanden oder nicht bestanden, und halten Sie Testaufgaben aus den Trainingsdaten heraus, das Problem, das Benchmark-Kontamination beschreibt, damit ein Sprung, den Sie sehen, auch echt ist.

Wie sieht emergentes Verhalten bei AI-Agenten aus?

In Agentensystemen entsteht Emergenz aus der Interaktion statt aus der Größe: Einfache Agenten, die ihren eigenen Regeln folgen, erzeugen Gruppenverhalten, das keinem von ihnen vorgegeben wurde. Das Muster zeigt sich quer durch Multi-Agenten-Systeme:

System Was entstand Quelle
25 generative Agenten in einer simulierten Kleinstadt Aus dem Wunsch eines Agenten, eine Valentinstagsparty zu geben, verbreiteten andere die Einladungen, verabredeten sich dafür und kamen gemeinsam an Park et al., 2023
Mit Reinforcement Learning trainierte Versteckspiel-Agenten Sechs Strategiephasen, darunter Unterstände aus Kisten und Rampen, mit denen die Gegenseite sie überwand Baker et al., 2019
Das Multi-Agenten-Recherchesystem von Anthropic Frühe Versionen starteten für einfache Anfragen 50 Subagenten Anthropic, 13. Juni 2025

Alle drei abgerufen am 16. November 2026. Die Ingenieure von Anthropic sagen es klar: „Multi-agent systems have emergent behaviors, which arise without specific programming.“ Im Produktivbetrieb ist emergentes Verhalten vor allem ein Zuverlässigkeitsproblem und kein Wunder. Derselbe Mechanismus, der eine Party organisiert, erzeugt auch ausufernde Delegation, Agenten, die sich gegenseitig ihre Fehler weiterreichen, oder eine Abkürzung, die das Ziel austrickst, das Versagen, das Reward Hacking benennt.

Wie testet und begrenzt man emergentes Verhalten?

Evaluieren Sie das System, nicht nur seine Teile. Wer jeden Agenten einzeln testet, übersieht Verhalten, das erst im Zusammenspiel auftritt. Führen Sie deshalb durchgängige AI-Agent-Evals an realistischen Aufgaben durch und lesen Sie die Agent-Trajektorie, nicht nur die Endantwort. Setzen Sie harte Grenzen für alles, was sich aufschaukeln kann: Zahl der Subagenten, Runden, Ausgaben und Werkzeugberechtigungen. Behandeln Sie jedes Modell-Upgrade und jeden neuen Agenten als Änderung, die Verhalten hervorbringen kann, das Sie noch nicht gesehen haben, und lassen Sie die Evals vor dem Ausliefern erneut laufen. Red Teaming findet emergente Fehler, die geskriptete Tests übersehen, weil es gezielt nach ihnen sucht.

Dieser Eintrag wurde mit AI-Unterstützung verfasst.

Häufig gestellte Fragen

Was ist ein Beispiel für emergentes Verhalten in der AI?

In einer Studie von 2023 organisierten 25 Sprachmodell-Agenten in einer simulierten Kleinstadt gemeinsam eine Valentinstagsparty und gingen zusammen hin, nachdem nur ein einziger Agent die Idee dazu bekommen hatte.

Ist emergentes Verhalten dasselbe wie Bewusstsein?

Nein. Emergentes Verhalten heißt, dass ein System etwas tut, wofür seine Teile nicht ausdrücklich gebaut wurden; über Bewusstsein oder Absicht sagt das nichts aus.

Diese Seite zusammenfassen mit

Ihr Team schulen, damit es das selbst baut