Als emergente Fähigkeiten bezeichnet man Fähigkeiten von Sprachmodellen, die bei großen Modellen auftreten und bei kleineren fehlen. Gemeint sind Sprünge: Eine Aufgabe wird über mehrere Modellgrößen hinweg kaum gelöst, und ab einer bestimmten Größe plötzlich zuverlässig.
- Emergente Fähigkeiten (Emergent Abilities)
Fähigkeiten, die bei großen Modellen auftreten und bei kleineren fehlen.
Beispiel: „Als emergente Fähigkeit galt lange das mehrstufige Rechnen, das kleinere Modelle gar nicht lösten.“Die Definition stammt aus einer Arbeit von 2022: Eine Fähigkeit gilt als emergent, wenn sie „is not present in smaller models but is present in larger models“. Daraus folgt, dass sie sich aus dem Verlauf kleinerer Modelle nicht vorhersagen lässt.
Beispiele aus der Literatur: mehrstufiges Rechnen, das Befolgen verschachtelter Anweisungen, das Übertragen einer Regel auf einen neuen Fall und das Arbeiten mit Beispielen im Prompt.
Die begriffsprägende Arbeit ist „Emergent Abilities of Large Language Models“ (Wei u. a., Juni 2022). Widerspruch kam ein Jahr später mit „Are Emergent Abilities of Large Language Models a Mirage?“ (Schaeffer u. a., April 2023): Die Autoren führen die Sprünge weitgehend auf die Wahl des Maßstabs zurück. Unstetige Maße wie „ganz richtig oder gar nicht“ lassen Fähigkeiten plötzlich erscheinen; stetige Maße zeigen eine gleichmäßige Entwicklung. Angebliche emergente Fähigkeiten „evaporate with different metrics or with better statistics“.
Wie der Streit zu lesen ist
Als offen. Beide Seiten haben belastbare Belege, und sie widersprechen sich weniger, als es scheint: Dass ein Maß den Eindruck eines Sprungs erzeugt, heißt nicht, dass sich an der Brauchbarkeit nichts geändert hat. Für den Anwender bleibt die Beobachtung, dass eine Aufgabe ab einer bestimmten Modellgröße aus dem Bereich „geht nicht“ in den Bereich „geht“ wechselt, und das ist der Teil, der zählt.
Was daraus praktisch folgt
Alte Urteile über Modelle verfallen. Wer vor einem Jahr festgestellt hat, dass eine Aufgabe nicht zuverlässig läuft, sollte sie erneut prüfen, bevor er dafür baut. Das ist der häufigste vermeidbare Fehler in Projekten: eine Umgehung zu pflegen, die eine Schwäche ausgleicht, die es nicht mehr gibt.