14. September 2026
Warum ein KI-Assistent Fakten kennen und trotzdem lokale Regeln verfehlen kann. Die Forschung zu getrenntem Wissen, Schlussfolgern und Stil, verständlich erklärt, mit einem prüfbaren Entwurf für anpassungsfähigere Assistenten.
41 Min. Lesezeit
Stell dir vor, du bittest eine KI, diesen Satz zu kürzen, ohne seine Bedeutung zu verändern:
Nutzer der neuen App erledigten ihre Arbeit schneller, aber wir wissen nicht, ob die App den Unterschied verursacht hat.
Die KI liefert:
Die neue App sorgt dafür, dass Menschen schneller arbeiten.
Die Überarbeitung verändert die Aussage. Das Original berichtet eine Beobachtung und lässt die Ursache offen. Vielleicht hatten die Nutzer der App einfach mehr Erfahrung. Die neue Fassung erklärt die App zur Ursache. Aus der Bitte um weniger Wörter ist eine Behauptung entstanden, die die Belege nicht stützen.
Das Beispiel ist erfunden. Abdulhai und Kollegen untersuchten ein ähnliches Problem an Aufsätzen menschlicher Autoren. Sie fanden, dass KI-Überarbeitungen die Bedeutung selbst dann veränderten, wenn die Anweisung nur Grammatikkorrekturen verlangte.1
Stell dir nun ein Softwareprojekt vor, das eine gemeinsame Funktion zur Formatierung von Datumsangaben besitzt. Die Regel des Teams lautet, diese Funktion wiederzuverwenden. Ein KI-Assistent soll ein einzelnes angezeigtes Datum korrigieren und fügt dafür ein weiteres Softwarepaket hinzu, das dieselbe Aufgabe erledigt. Das Datum sieht richtig aus, aber das Team muss jetzt ein zweites Werkzeug aktuell halten. Der Assistent hat eine Projektregel übergangen und unnötige Arbeit verursacht.
Ein hilfreicher Assistent muss sowohl die Belege als auch die Regeln des Projekts beachten. Fakten kennen, Schlüsse ziehen und eine Ausdrucksform wählen sind verschiedene Aufgaben. Die Forschungsfrage lautet, wie zuverlässig wir sie getrennt steuern können. Die Beispiele zeigen, dass diese Steuerung versagt hat. Sie verraten nicht, was die Fehler im Inneren des Modells verursacht hat.
Probiere die Unterscheidung mit deinem eigenen Assistenten
Bitte ihn, den Satz über die App zu kürzen und dabei die Unsicherheit über die Ursache zu erhalten. Ändere dann nur die Anweisung: Verlange eine förmlichere Fassung mit derselben Bedeutung. Vergleiche beide Antworten mit dem Original. Der Wortlaut sollte sich ändern, während die Beobachtung und ihre Einschränkung erhalten bleiben. Wiederholst du das mit verschiedenen Beispielen, prüfst du, ob aus einer guten Antwort ein verlässliches Muster wird.
Der Satz über die App verlangt vom Assistenten, sowohl die Beobachtung als auch ihre Einschränkung zu erhalten. Die Menschen arbeiteten schneller. Die Ursache ist unbekannt.
Wissen ist die verfügbare Information. Hier ist es die Beobachtung über die Nutzer der App. Schlussfolgern nutzt diese Information, um begründete Schlüsse zu ziehen. Die Beobachtung allein klärt nicht, warum die Menschen schneller arbeiteten, deshalb verzichtet ein begründeter Schluss darauf, eine Ursache zu nennen. Stil ist die Menge der Ausdrucksentscheidungen, die Bedeutung und Verhalten erhalten: zwei Sätze oder einer, förmlich oder schlicht, loadCustomer oder load_customer. Stil betrifft Code genauso wie Prosa.
Eine Konvention ist eine lokale Regel. Sie kann den Stil betreffen, etwa die Benennung von Funktionen, oder Verhalten und Werkzeuge, etwa die Wiederverwendung der Datumshilfsfunktion. Auch eine Regel ist Information: Der Assistent muss sie kennen, erkennen, wo sie gilt, und sie einhalten. Diese Aufgaben überschneiden sich. Eine übergangene Regel kann auf fehlende Information, ein Missverständnis oder eine hartnäckige Vorliebe zurückgehen.
Das Training passt die Parameter eines Modells an, auch Gewichte genannt. Diese Zahlen beeinflussen sein Wissen, sein Schlussfolgern und seine bevorzugten Antwortweisen. Ein Prior bedeutet hier eine Ausgangserwartung, etwa eine Lieblingsbibliothek oder einen vertrauten Ton. Er hilft, wenn die Aufgabe nichts Besseres liefert, und wird zum Problem, wenn er trotz Belegen für eine andere Wahl bestehen bleibt. Nützliche Fähigkeiten wie Grammatik und Rechnen sollten verfügbar bleiben.
Die Formulierung „Wissen, Schlussfolgern und Stil trennen“ verbirgt drei verschiedene Behauptungen. Sie sind keine Sprossen einer Leiter, und keine von ihnen folgt aus einer anderen.
Ein System kann austauschbare Teile haben und trotzdem eine lokale Regel übergehen. Es kann auch lokale Regeln befolgen und dabei umfangreiches Weltwissen behalten. Das wäre ein praktischer Erfolg. Die in der Prototyp-Notiz vorgeschlagenen kleinen Modelle sind Entscheidungen für kontrollierte Experimente und Kostenvergleiche, keine Voraussetzung für Erfolg.
Ein gewöhnlicher Assistent erfüllt das Ziel vielleicht schon. Das vorgeschlagene System muss deshalb mit einem verglichen werden, das über vergleichbare gelernte Kapazität verfügt und beim Antworten dieselben Belege, Werkzeuge, Regeln, Prüfungen und Rechenmittel erhält.
Schneiden beide gleich gut ab, hat die neue Architektur in diesen Tests keinen Zusatznutzen gezeigt. Die gemeinsamen Regeln und Prüfungen brauchen einen eigenen Vergleich mit und ohne sie. Ein Architekturvergleich kann ihren Beitrag nicht belegen, wenn beide Assistenten sie erhalten.
Die Forschung bietet Wege, die Unterscheidung zu prüfen, und mögliche Bausteine für eine Lösung. Sie zeigt auch, warum zusätzlicher Speicher allein wichtige Probleme offenlässt.
Belege und vorgeschlagene Experimente
Die Quellen umfassen begutachtete Studien und Preprints, geprüft bis zum 14. September 2026. Der Assistentenentwurf, der Trainingsplan und die Tests später in diesem Beitrag sind Vorschläge. Dieser Beitrag berichtet keine Trainingsergebnisse für diesen Entwurf. Die aufklappbaren Forschungsnotizen enthalten genaue Befunde, Budgets und Methoden. Der Haupttext soll auch ohne sie vollständig sein.
Eine richtige Antwort kann daraus entstehen, dass eine vertraute Lösung wiedererkannt wird. Ein Modell, das den nötigen Schluss beherrscht, kann auch scheitern, weil ihm ein Fakt fehlt. Stell dir dieselbe Wegaufgabe mit vertrauten und mit erfundenen Ortsnamen vor, aber mit identischen Verbindungen. Der Weg erfordert dieselben Schritte. Vertraute Namen können einen zusätzlichen Hinweis aus dem Gedächtnis liefern.
SynthWorlds nutzt dieses Prinzip: Parallelwelten mit denselben Beziehungen, eine mit vertrauten Zuordnungen und eine mit künstlichen. Die Autoren berichten einen Vorteil für die vertraute Welt. Wissenszugriff und andere Hilfen verringern diesen Vorteil, beseitigen ihn aber nicht.4 Gleiche Ergebnisse allein würden keine Trennung belegen, denn der Assistent könnte in beiden Welten scheitern. Ein Vergleich muss die Erfolgsrate in jeder Welt neben dem Abstand zwischen ihnen nennen.
Wu und Kollegen veränderten stattdessen die Annahmen vertrauter Aufgaben. Leistungseinbußen zeigten Grenzen beim Übertragen gelernter Verfahren.5 Auch eine ungewohnte Schreibweise kann das Verständnis erschweren, deshalb muss ein sauberer Vergleich Schwierigkeiten beim Lesen der Aufgabe von Schwierigkeiten beim Lösen trennen.
Wissensfragen und Schlussfolgerungsfragen
Thapa und Kollegen trennten Fragen aus elf biomedizinischen Benchmarks in wissens- und schlussfolgerungsbezogene Gruppen. Nach ihrer Klassifikation verlangten 32,8 Prozent komplexes Schlussfolgern. Der Klassifikator erreichte 81 Prozent Genauigkeit.6 Diese Genauigkeit betrifft die Einordnung der Fragen, nicht die Richtigkeit der Antworten darauf.
Die Zahlen beschreiben diese Sammlung und ihre Kategorien. Sie gelten nicht für medizinische Arbeit insgesamt. Sie belegen auch keinen allgemeinen Anteil von KI-Aufgaben, die Schlussfolgern erfordern.
Die Aufgabe lesen oder lösen
Ein weiterer Test verändert die Regeln einer vertrauten Aufgabe. Wu und Kollegen untersuchten solche kontrafaktischen Bedingungen, also bewusst geänderte Annahmen. Die beobachteten Leistungseinbußen zeigen Grenzen beim Übertragen vertrauter Verfahren.5 Allerdings kann auch eine ungewohnte Schreibweise das Verständnis erschweren. Experimente sollten deshalb Namen, Textlänge und Darstellung kontrollieren. Außerdem sollten sie eine korrekt aufbereitete Aufgabenbeschreibung vorgeben, in der die Elemente und ihre Beziehungen bereits erfasst sind. Das hilft, Schwierigkeiten beim Lesen der Aufgabe von Schwierigkeiten beim Lösen zu unterscheiden.
Sichtbare Gedächtnis- und Denkschritte
Ein Assistent kann neben seiner Antwort eine Folge von Schritten anzeigen. Jin und Kollegen kennzeichnen erzeugte Schritte mit besonderen Markern als Erinnerung oder Schlussfolgerung. Das erleichtert die Untersuchung der Ausgabe.7 Beide Arten von Schritten stammen weiterhin aus einem trainierten Modell.
Die Beschriftung „Ich schlussfolgere“ belegt nicht, welcher interne Vorgang eine Antwort erzeugte. Belastbarer sind überprüfbare Quellenbezüge, ausgeführte Berechnungen und unabhängige Tests. Eine plausible Erklärung kann diese Prüfungen ergänzen, aber nicht ersetzen.
Für die Datumsaufgabe könnte der Assistent zuerst die Anweisungen des Projekts suchen und lesen. Retrieval-Augmented Generation, kurz RAG, verbindet ein Modell mit einer Suche in externen Dokumenten. Self-RAG ergänzt gelernte Entscheidungen darüber, wann gesucht wird und ob die Belege eine Antwort stützen.1011
Eine Quelle hilft nur, wenn der Assistent die passende Stelle erhält, sie versteht und anwendet. Seine gelernten Gewichte bleiben bestehen. Erreicht die Regel das Modell nie, lässt sich der Fehler nicht allein dem Schlussfolgern zuschreiben.
Ein anderer Ansatz bereitet Dokumentwissen als Adapter auf, kleine Ergänzungen der gelernten Parameter eines Modells, und wählt sie dann passend zur Anfrage aus.12 Die Frage lautet dann, was diese Aufbereitung übersteht.
In der ersten Fassung ihrer Studie stellen Tang und Kollegen fest, dass Dokumentadapter nur einen Teil der Bedeutung der Dokumente bewahren. Ihre Kombination mit dem Originaltext funktioniert in ihren Experimenten besser als Adapter allein.13 Für eine Ausnahme von der Datumsregel oder ein genaues Zitat bleibt die Originalstelle unverzichtbar. Ein austauschbarer Adapter kann außerdem neben Fakten auch Stil gelernt haben.
Abruf mit einem kleineren Generator
RETRO untersucht, wie sich gefundener Text innerhalb eines Sprachmodells verwenden lässt. Das Verfahren bindet gefundene Textabschnitte über einen trainierten Encoder und einen eigenen Aufmerksamkeitsweg ein. Der Encoder bereitet den gefundenen Text für die Nutzung im Modell auf.
Das Modell mit 7,5 Milliarden Parametern erreichte beim Sprachmodellierungsvergleich auf dem Pile ähnliche Leistungen wie deutlich größere Modelle. Zum Aufbau gehörte eine Datenbank mit zwei Billionen Tokens, also den Texteinheiten der Modellverarbeitung.14
Das stützt einen möglichen Tausch zwischen Modellgröße und externem Speicher in diesem Versuchsaufbau. Zum Systemaufwand gehören auch Suchmodell, Encoder und Datenbank. Wer nur den kleinen Generator zählt, unterschätzt die benötigten Ressourcen.
Dokumentadapter und gemeinsame Banken
Parametric RAG stellt Dokumentwissen durch zusätzliche Parameter dar, die Adapter heißen. Dafür müssen nicht alle Gewichte des Basismodells neu trainiert werden. Bei LoRA sind diese Änderungen als vergleichsweise kleine Matrizen organisiert.
Das System bereitet Dokumentmodule vor, wählt sie passend zur Anfrage aus und bindet sie während der Inferenz ein, wenn das Modell antwortet. Es trainiert nicht für jede Frage einen neuen Adapter.12
Das begleitende SIGIR-Tutorial unterscheidet, wann Informationen abgerufen werden sollen und wie das Gefundene ins Modell gelangen soll. Dynamischer Abruf und dynamisches Adaptertraining sind unterschiedliche Vorgänge.15
Ein eigener Adapter für jedes Dokument kostet Training und Speicher. Poly-PRAG nutzt deshalb ein gelerntes Auswahlverfahren, das Dokumente durch Kombinationen aus einer gemeinsamen Adapterbank darstellt. Das verringert Redundanz. Es macht aus jedem Modul aber noch keinen isolierten Faktenbehälter.
Engram nutzt kurze Folgen von Tokens, den Texteinheiten, die ein Modell verarbeitet, um Informationen in einem getrennten gelernten Speicher zu finden. Die Autoren schalten diesen Speicher ab und messen, welche Leistung im Verhältnis zum unveränderten Modell übrig bleibt:2
| Aufgabentyp | Verbleibende Leistung |
|---|---|
| Faktenwissen | 29 bis 44 % |
| Leseverständnis | 81 bis 93 % |
Diese Prozentwerte vergleichen die Leistung mit und ohne Speicher. Sie sind nicht der Anteil richtig beantworteter Fragen. Jede Spanne umfasst verschiedene Tests, statt Unsicherheit um ein einzelnes Ergebnis zu beschreiben. Das Entfernen des Speichers schadet Faktenaufgaben stärker. Das Abschalten verändert außerdem die Einsatzbedingungen gegenüber denen im Training. Der Versuch stützt eine teilweise Spezialisierung, kein voll leistungsfähiges Modell ohne Wissen.
Andere Arbeiten verändern, wie ein Modell Speicher abruft, Berechnungen wiederholt oder mehr Material verarbeitet, als in seinen aktiven Kontext passt, seinen aktuellen Arbeitsbereich.193202122 Diese Methoden organisieren Speicherung und Berechnung anders. Ihre Ergebnisse belegen nicht, dass ein Austausch des Wissens Schlussfolgern und lokale Konventionen unangetastet lässt.
Die Engram-Spannen einordnen
Abschnitt 6.3 nennt für TriviaQA 29 Prozent der ursprünglichen Leistung und für C3 93 Prozent. Das sind Beispiele aus den Gruppen für Faktenwissen beziehungsweise Leseverständnis. Das Abschalten der dünn besetzten Speicherausgabe verändert die Bedingungen gegenüber dem Training. Das übrige Modell bleibt dabei unverändert.2
Lngram und Mobius
Lngram verändert, was als Speicherschlüssel dienen kann. An die Stelle von Token-IDs treten gelernte latente Symbole, also interne diskrete Repräsentationen. Dadurch lässt sich das Nachschlageprinzip auch auf andere Modalitäten ausdehnen.19
Intern-S2-Mobius kombiniert einen gemeinsam genutzten FFN-Speicher mit wiederholt arbeitenden Self-Attention-Modulen. FFN steht für Feed-forward Network, einen verarbeitenden Baustein im Transformer. Self-Attention verknüpft Positionen abhängig von ihrem Kontext. Die Architektur unterscheidet den gemeinsam genutzten Speicherbaustein von den Attention-Modulen, die wiederholt arbeiten.
Die Autoren berichten für ihr 7B-Modell ähnliche Folgetestergebnisse mit 62,6 Prozent der Trainingsdaten ihrer Transformer-Baseline. Für ein größeres, aus Qwen3.5-35B weitertrainiertes Modell berichten sie eine nahezu vierfache Beschleunigung der Inferenz.3
Diese Vergleiche gelten für die jeweiligen Versuchsbedingungen. Sie belegen weder beliebig austauschbare Wissensbanken noch verlässliche Anpassung an fremde Schreibkonventionen.
Mehr Text verarbeiten, als gleichzeitig Platz hat
DRIFT teilt die Arbeit zwischen einem Wissensmodell und einem Schlussfolgerungsmodell. Das erste verdichtet Dokumentteile zu anfrageabhängigen „Fact Tokens“, die das zweite verarbeitet. So kann ein Modell Informationen für ein anderes aufbereiten. Der mögliche Engpass wandert zur Verdichtung. Verliert sie einen Vorbehalt, arbeitet der nächste Schritt mit unvollständigen Voraussetzungen.
Aus diesen Bausteinen ergibt sich ein Entwurf mit einem nachvollziehbaren Weg von der Quelle über die Entscheidung bis zur Ausgabe. Die Gewichte des Basismodells bleiben bei der Nutzung unverändert. Fakten und Regeln gehen in ausdrückliche Aufgabennotizen ein, die je Projekt getrennt bleiben und beim Projektwechsel gelöscht werden.
DIAGRAM
Aufgabennotizen verbinden jeden Fakt mit seiner Quelle und Version. Ihr Konventionsvertrag hält die geltenden Regeln fest, wo sie gelten und ob sie ausdrücklich genannt oder erschlossen wurden. Eine Regel für eine ältere Datumshilfsfunktion oder einen anderen Teil des Projekts gilt hier vielleicht nicht. Genaue Formate der Einträge gehören in die Prototyp-Notiz.
Der Controller für die Aufgabenbearbeitung plant die Arbeit, öffnet Quellen und wählt Werkzeuge. Er hält fest, was erhalten bleiben muss: bei Code die beabsichtigte Änderung und die vorhandene Hilfsfunktion, bei Prosa die Aussagen und ihre Einschränkungen. Das Ausgabemodul erhält diesen Plan, die geltenden Regeln und lokale Beispiele und schreibt dann das Ergebnis.
Prüfungen testen die fertige Arbeit. Die Ausführung des Codes prüft das Verhalten. Eine feste Regelprüfung kann eine nicht freigegebene Bibliothek zurückweisen. Eine Bedeutungsprüfung vergleicht einen Entwurf mit seinen Quellaussagen. Ein erkanntes Problem geht zur Überarbeitung oder zum weiteren Nachschlagen an den Controller zurück. Eine Annahme kann trotzdem falsch sein, besonders bei Prosa.
In diesem vorgeschlagenen Ablauf haben ausdrückliche Aufgabenanweisungen Vorrang vor geltenden Projektregeln, und diese haben Vorrang vor erschlossenen Mustern. Innerhalb einer Ebene entscheiden Geltungsbereich und genannte Ausnahmen über Konflikte. Ein Dokument zu finden macht es nicht zur Anweisung. Der Assistent muss begründen, warum seine Regeln gelten.
Eine glatte Überarbeitung kann verschiedene Teile einer Aussage verändern. Diese Beispiele sind erfunden.
| Vorher | Nachher | Änderung |
|---|---|---|
| Nutzer wurden schneller fertig, Ursache unbekannt | Die App sorgt dafür, dass Menschen schneller arbeiten | Ursache erfunden |
| Die Korrektur behebt den Absturz wahrscheinlich | Die Korrektur behebt den Absturz | Unsicherheit gestrichen |
| Ich lehne den Vorschlag in dieser Form ab | Der Vorschlag könnte verbessert werden | Position abgeschwächt |
Humor, Rhythmus und soziale Bedeutung brauchen ebenfalls den Vergleich mit dem Original und menschliches Urteil. Festgehaltene Aussagen und Prüfungen erleichtern die Fehlersuche. Sie garantieren weder bedeutungstreues Schreiben noch die Zuordnung eines Fehlers zu einer einzigen Ursache.
Ein Fakteneintrag enthält die Aussage oder API-Signatur, die genaue Quellstelle und ihren Versionsstand. Dazu kommen ein Inhaltshash als Fingerabdruck, der Gültigkeitsbereich und der Zeitpunkt des Abrufs. Die Originalstelle bleibt erreichbar.
Eine Konvention braucht andere Angaben: das betroffene Merkmal, erlaubte Varianten, ihren Geltungsbereich und die Beispiele, die sie stützen. Unsicherheit wird ausdrücklich gespeichert. Eine vermutete Namensregel darf nicht stillschweigend zu einer verbindlichen Projektvorgabe werden.
Für Code würde der Controller geplante Änderungen, benötigte Symbole, Funktionsverträge und Prüfungen festhalten. Ein Verzeichnis vorhandener Komponenten und Bibliotheken hilft zu verhindern, dass die vertraute Lieblingslösung unbemerkt zur Vorgabe wird. Eine neue Abhängigkeit müsste durch die Aufgabe begründet sein.
Mechanische Regeln lassen sich mit festen Werkzeugen durchsetzen. Ein Syntaxbaum beschreibt die Struktur eines Programms unabhängig von seiner Formatierung. Ein Code-Printer ist ein Programm, das aus diesem Baum Quelltext erzeugt. Ein geeignetes Werkzeug kann dabei die Importreihenfolge und bestimmte Benennungen vorgeben. Wo das Modell weiterhin Code erzeugen muss, können Grammatikregeln den erlaubten Ausgaberaum begrenzen.
Ein möglicher Start wäre ein Controller mit 1,5 Milliarden Parametern und ein Ausgabemodul mit 0,3 Milliarden. Ein Suchencoder hätte höchstens 0,1 Milliarden Parameter. Die gesamte dichte gelernte Kapazität läge vor zusätzlichen Wissensmodulen bei höchstens 1,9 Milliarden Parametern. Ein Pilot könnte mit 0,5 Milliarden Controller-Parametern beginnen. Diese Größen sind Versuchsentscheidungen, keine nachgewiesene Mindestkapazität.
Der erste Suchweg verwendet Textsuche, Syntaxbäume, Symbolverweise und exakte Quellstellen. Ein großes Modell darf nicht unbemerkt die schwierige Interpretation oder Formulierung übernehmen, während nur der kleine Controller gezählt wird.
Als aktiver Kontext wären zunächst 4.096 Tokens vorgesehen, mit Vergleichsläufen für 2.048, 8.192 und 32.768 Tokens. Außerhalb dieses Fensters liegen Originalquellen und strukturierter Arbeitszustand. Das Experiment soll zeigen, ob der kleine Arbeitsplatz hilft oder lediglich zusätzliche Abrufe erzwingt.
Optionale Module zählen separat zur Kapazität, ebenso Suchaufwand, Werkzeugaufrufe und die Kosten der Ausgabe. Bei der Nutzung bleiben die Basisgewichte eingefroren und neue Informationen landen in abgegrenztem, zurücksetzbarem Zustand.
Der Hauptvorschlag beginnt mit überwachtem Training, dem Lernen aus vorgegebenen Beispielen für Sprache und dafür, was Programme tun. Seine zentrale Hypothese betrifft den nächsten Schritt: Regeln bleiben innerhalb einer Übung konsistent und wechseln in der nächsten.
Das könnte das Verfahren belohnen, aktuelle Regeln zu finden und anzuwenden, statt eine einzelne vertraute Wahl. Verwandte Forschung zu Belohnungen, wiederverwendbaren Programmen, Rätseln und Weltmodellen bietet mögliche Trainingsmethoden. Ein separater Zweig würde versuchen, aus zufälligen Anfangsgewichten allein durch Belohnungen zu lernen. Der Hauptvorschlag hängt nicht vom Erfolg dieses Zweigs ab.
Diese Studien liefern mögliche Trainingssignale und wiederverwendbare Verfahren. Sie begründen auch die separate Variante, die aus zufälligen Anfangsgewichten lernen soll. Der Hauptentwurf setzt den Erfolg dieser Variante nicht voraus.
Han und Kollegen schlagen vor, Schlussfolgern stärker durch solche Belohnungen, künstliche Aufgaben und einen kleinen Kontext mit externem Speicher zu trainieren. Ihre Experimente mit ungewöhnlichen Programmiersprachen zeigen auch Schwierigkeiten beim Übertragen gelernter Verfahren.23 Daraus ergibt sich eine konkrete Frage: Kann das Training ein Verfahren vermitteln, das auch nach einem Wechsel vertrauter Sprach- und Aufgabenregeln funktioniert?
Vorhandene Fähigkeiten vor dem Belohnungstraining
DeepSeek-R1-Zero untersucht das Nachtraining des Schlussfolgerns ohne eine anfängliche Phase vorgegebener Lösungsbeispiele. Absolute Zero erzeugt eigene Codeaufgaben und prüft sie durch Ausführung.2425 Beide verringern den Bedarf an gelieferten Lösungsbeispielen und übernehmen zugleich Wissen und Verfahren eines vortrainierten Modells.
Ein Vergleich bei Han und Kollegen betrifft Vektororthogonalität. Das ist eine mathematische Beziehung, bei der das Skalarprodukt der Vektoren null ist. Verglichen wird das Nachtraining eines vorhandenen Modells auf dieser Aufgabe.
Gemessen wird die Testgenauigkeit, also der Anteil richtig beantworteter Testfragen. Ein vortrainiertes Qwen-Modell mit 1,5 Milliarden Parametern erreicht 89 Prozent. Nach rein belohnungsbasiertem Nachtraining sind es 93 Prozent. Überwachtes Nachtraining mit anschließendem Belohnungstraining erreicht 80 Prozent.23
Alle drei Werte stammen aus Tabelle 3 der Fassung v2 und verwenden dieselbe vortrainierte Basis. Sie messen diese Vektoraufgabe, nicht allgemeine Intelligenz. Der Vergleich prüft nicht, ob sich ein Sprachmodell aus zufälligen Anfangsgewichten durch Belohnung aufbauen lässt.
Chan und Kollegen stellten fest, dass gebündelte Beispiele, seltene Kategorien und wechselnde Zuordnungen in kontrollierten Aufgaben mit Bildern und zugehörigen Bezeichnungen das Lernen aus den aktuellen Beispielen fördern können.36 Das inspiriert diesen Vorschlag. Es beweist den Nutzen für Code- oder Textkonventionen nicht. Um diese Hypothese zu prüfen, vergleicht man ansonsten gleiches Training mit und ohne wechselnde Konventionen.
Die gemeinsame Datumshilfsfunktion macht die Idee konkret. Sie macht aus 2026-09-14 die Anzeige 14.09.2026. Im Projekt heißt die Funktion formatDate.
format_date. Das angezeigte Datum bleibt 14.09.2026.Führe den Code aus, um das Datum zu prüfen. Sieh ihn getrennt durch, um die Hilfsfunktion und die lokale Namensregel zu prüfen. Ein richtiges Datum aus einer verbotenen Bibliothek besteht die Inhaltsprüfung und scheitert an der Regelbefolgung. Die richtige Hilfsfunktion mit dem falschen Datum scheitert an der Inhaltsprüfung. Das Training sollte die korrekte Erledigung optimieren und dabei Konventionsverstöße, unbelegte Behauptungen und Kosten getrennt begrenzen. Flüssige Sprache kann eine erfundene Behauptung nicht ausgleichen.
Auch die Übungen brauchen Kontrolle. Ein Lehrmodell, also ein Modell zur Erzeugung der Trainingsbeispiele, kann darin dieselbe Stimme hinterlassen, selbst wenn die Namen wechseln. Die aktuelle Konvention muss in den Aufgabennotizen verfügbar bleiben, damit der Assistent sie anwenden kann.
Für die Datumsübung legt der Vertrag der Hilfsfunktion fest, dass eine Eingabe im Format YYYY-MM-DD zu Text im Format DD.MM.YYYY wird. Das Projekt exportiert formatDate aus seinem gemeinsamen Datumsmodul.
Für die reine Konventionsvariante wird der vorhandene Export formatDate unter dem lokalen Alias format_date importiert. Das ändert den Namen in der bearbeiteten Datei. Die Implementierung der gemeinsamen Hilfsfunktion bleibt erhalten.
Weitere mögliche Aufgaben sind Wege durch Graphen, Reparaturen an Zustandsautomaten, Datenumformungen, Abfragen und begrenzte Textüberarbeitungen. Compiler und kleine Interpreter liefern überprüfbare Ergebnisse für Code. Für Texte braucht es kontrollierte Fakten- und Argumentationsstrukturen sowie menschliche Beispiele, die das Trainingsprojekt rechtmäßig nutzen kann.
| Trainingsphase | Startbudget im Vorschlag | Voraussetzung für den nächsten Schritt |
|---|---|---|
| Sprache und Programmbedeutung | 10 Milliarden Tokens | Spezifikationen verstehen, kopieren, ausführen und Bedeutung erhalten |
| Wechselnde Umgebungen | 10 Milliarden Tokens; 1 bis 32 Beispiele je Regel | Neue Zuordnungen und lokale Konventionen erschließen |
| Lernen durch Ergebnisse | 500.000 Episoden; zunächst acht Versuche je Episode | Geprüfte Lösungen verbessern, Kosten- und Beleggrenzen einhalten |
Ein Assistent, der immer seinen Lieblingsstil verwendet, besteht jeden Test, dessen Vorgaben zufällig dazu passen. Ein glaubwürdiger Test liefert gleich klare Belege für eine andere Konvention. Die vorgeschlagenen Testfamilien SynthRepos und SynthDocs übertragen die Parallelwelten-Bewertung auf ausführbare Software und kontrollierte Dokumente. Sie werden hier entworfen und sind keine veröffentlichten Ergebnisse.
Die Datumshilfsfunktion prüft Anpassung mit wenig Schlussfolgern. Eine Wiederholungsaufgabe fügt mehrere voneinander abhängige Entscheidungen hinzu: den Fehler einordnen, eine Wartezeit berechnen, eine Obergrenze anwenden und Duplikate vermeiden. Ein Programm muss fehlgeschlagene Aufträge neu einplanen. Die für dieses Beispiel erfundene Regel plant nach min(10 × 2ⁿ, 60) Sekunden einen neuen Versuch für einen vorübergehend gescheiterten Auftrag. Dabei zählt n die bereits ausgeführten Wiederholungsversuche. Ist bereits ein Wiederholungsversuch eingeplant, darf das Programm kein Duplikat erzeugen.
Um 10:00:00 scheitert ein Auftrag vorübergehend nach drei Wiederholungsversuchen, und keiner ist eingeplant. Die ungedeckelte Wartezeit beträgt 80 Sekunden, also greift die Obergrenze von 60 Sekunden. Das richtige Ergebnis ist genau ein Wiederholungsversuch um 10:01:00. Projekt A benennt Funktionen nach verb_object, etwa schedule_retry. Projekt B benennt sie nach object_verb, etwa retry_schedule. Beide müssen denselben Wiederholungsversuch einplanen. Die andere Reihenfolge im Namen sollte weder die Wartezeit noch die Duplikatprüfung verändern.
Dieses eine Beispiel trägt getrennte Tests. Bitte den Assistenten, die dokumentierte Einheit zu nennen, den Zeitpunkt der Wiederholung zu berechnen, zwischen zwei verhaltensgleichen fertigen Änderungen zu wählen, die sich nur in der Namensreihenfolge unterscheiden, oder die vollständige Reparatur zu erstellen. Das prüft Wissen, Schlussfolgern, Konvention und ihr Zusammenspiel. Weitere Varianten stellen die Schnittstelle auf Millisekunden um, sodass aus 60 Sekunden 60.000 werden und Umbenennen allein nicht mehr genügt.
Auch das Schreiben braucht gleichwertige kontrollierte Aufgaben: die Fakten, die Unsicherheit, die Quellenangabe und den nächsten Schritt eines Berichts erhalten, während Register oder Platzierung der Quellenangabe wechseln. Die Notiz enthält ein vollständiges Beispiel mit einem Störungsbericht.
Zwei vorgeschlagene Diagnosegrößen bewerten diese Tests: Convention Violation Rate (CVR) und Stylistic Prior Leakage (SPL). Beide sind Diagnosegrößen für diese Tests, keine etablierten Standards, und keine von beiden benennt die Trainingsursache eines Fehlers.
Die CVR ist der Anteil der geltenden, prüfbaren Konventionsvorgaben, gegen die eine Ausgabe verstößt. Vorgaben zählen nur, wenn die gelieferten Belege sie eindeutig machen, und Gewichte für ihre Bedeutung werden vorab festgelegt. Fehlende oder ungültige Ausgaben gelten in der Gesamtbewertung als Fehler. Die CVR deckt Konventionen im weiten Sinn ab, einschließlich vorgeschriebener Werkzeuge, kann aber nicht erklären, warum eine Regel verletzt wurde.
SPL fragt, ob die Fehler die gewohnte Wahl des Assistenten begünstigen. Sie nutzt gleichwertige Formen, etwa die Reihenfolge in Codenamen oder die Platzierung von Quellenangaben, die Verhalten und Bedeutung erhalten. Unabhängige Aufgaben ermitteln zuerst die bevorzugte Form ohne lokale Belege. Passend gebildete Aufgaben verlangen dann diese Form oder ihre Alternative mit gleich klaren Anweisungen. Diese Beschränkung auf gleichwertige Formen erklärt das „Stylistic“ im Namen.
Ein Rechenbeispiel, kein Studienergebnis
Bewerte je Aufgabe eine binäre Konventionsentscheidung mit gleichem Gewicht. In 100 Aufgaben, die die ungewohnte Form verlangen, wählt der Assistent 30-mal fälschlich seinen Favoriten: eine Fehlerquote von 30 Prozent. In 100 Aufgaben, die den Favoriten verlangen, wählt er 10-mal fälschlich die Alternative: eine Fehlerquote von 10 Prozent. Jede Antwort wählt eine der beiden erlaubten Formen. Insgesamt sind 40 von 200 Entscheidungen falsch, die CVR beträgt also 20 Prozent. SPL ist die gerichtete Differenz, 30 minus 10, also 20 Prozentpunkte.
Die beiden Werte beantworten verschiedene Fragen: wie oft eine Vorgabe verletzt wird und wie einseitig die Verstöße den Standard begünstigen. Bei denselben gleich häufigen binären Vorgaben lauten die Erwartungswerte:
| Verhalten | CVR (%) | SPL (Pp) |
|---|---|---|
| Befolgt jede Vorgabe | 0 | 0 |
| Rät gleichverteilt | 50 | 0 |
| Wählt immer den Favoriten | 50 | 100 |
„Pp“ steht für Prozentpunkte. Wer immer den Favoriten wählt, scheitert an jeder Aufgabe, die die Alternative verlangt, und an keiner, die den Favoriten verlangt. Das ist eine gerichtete Differenz von 100 Punkten und eine Fehlerquote von 50 Prozent. Gleichverteiltes Raten hat keine Richtung und scheitert trotzdem an der Hälfte der Aufgaben. SPL, beide gerichteten Fehlerquoten, CVR und der Erfolg beim Erhalt von Bedeutung oder Verhalten werden deshalb gemeinsam berichtet, wobei Verweigerungen und ungültige Antworten mitgezählt werden. Ein System darf seine Zahlen nicht verbessern, indem es schwierige Aufgaben auslässt.
Für Aufgabe i und Merkmal j sei Aᵢⱼ die Menge zulässiger Werte. mᵢⱼ ist eins, wenn die Belege ausreichen, sonst null. Nichtnegative Gewichte wᵢⱼ legen vorab die Bedeutung der Prüfgelegenheiten fest. Bei positivem Nenner gilt:
CVR = Summe(gewichtete beobachtbare Verstöße) / Summe(gewichtete beobachtbare Prüfgelegenheiten)
Die Beobachtbarkeit bestimmt der Testgenerator mit unabhängiger Prüfung, nicht das Selbstvertrauen des Assistenten. Der Merkmalsextraktor prüft die tatsächlich erzeugte Ausgabe. Bei freien Texten sind zuverlässige automatische Merkmale begrenzt.
Für ein Konventionspaar sei p⁻ die Wahrscheinlichkeit, trotz Gegenbeleg den Favoriten zu wählen. p⁺ sei die Wahrscheinlichkeit, bei Belegen für den Favoriten die Alternative zu wählen. Dann gilt über N Paare:
SPL = 100 × Mittelwert(p⁻ − p⁺)
Negative Werte sprechen für eine Neigung zur Alternative oder fehlerhafte Kalibrierungsannahmen. Die Größe identifiziert eine Verhaltensasymmetrie unter den kontrollierten Bedingungen. Sie weist keinen bestimmten Trainingssatz oder ein einzelnes Neuron als Ursache nach.
Die Kalibrierung erfolgt pro System auf getrennten Aufgaben und mehreren Formulierungen. Als anfängliche Stabilitätsregel wäre eine untere Konfidenzgrenze über 0,65 für die Favoritenwahl denkbar. Zusätzlich braucht es modellunabhängig ausgerichtete Paare für systemübergreifende Vergleiche. Auswahlreihenfolge, Labels, Textlänge, Syntax und Beispielpositionen werden ausbalanciert.
Ein zweiter Test misst Äquivarianz: Ändert sich die Umgebung durch eine definierte Stiltransformation, muss sich die Ausgabe passend mitverändern. Bei endlichen Merkmalsklassen lässt sich die Abweichung über die Totalvariationsdistanz zwischen erwarteter und beobachteter Verteilung messen. Das erfasst fehlende Anpassung auch ohne stabilen Favoriten. Exakte Zeichenketten wären für Texte zu streng, weil mehrere Formulierungen richtig sein können.
Inhaltlicher Erfolg muss beim reinen Stilwechsel erhalten bleiben. Beim Faktenwechsel werden beide Erfolgsraten und ihr Abstand bei gleicher Denktiefe und gleichem Stil berichtet. Soll der Einfluss des Trainings kausal geprüft werden, muss man die Häufigkeit bestimmter Konventionen zwischen ansonsten vergleichbaren Trainingsläufen gezielt variieren.
Sind vier Konventionen gleich wahrscheinlich und unterscheidet nichts in der Aufgabe oder ihren Unterlagen zwischen ihnen, kann kein Assistent die richtige über Zufallsniveau treffen, das bei vier Optionen 25 Prozent beträgt. Das ist eine Informationsgrenze, kein Modellfehler. Ein nützlicher Assistent sucht dann ein unterscheidendes Beispiel, fragt nach, wenn die Antwort die Arbeit wesentlich verändert, oder behält die vorhandene Form bei und sagt das. Auch dieser Rückgriff ist ein Prior. Er sollte sichtbar sein und neuen Belegen weichen.
Vorgegebene Zwischenergebnisse können helfen, einen Fehler zu verorten. Forschende nennen geprüfte Zwischeneingaben Oracles. Für die Wiederholungsaufgabe markiere zuerst die Quellenstelle. Liefere als Nächstes ihre Regeln als strukturierte Fakten. Liefere schließlich den richtigen Plan: genau einen Wiederholungsversuch für 10:01:00 einplanen.
Eine Verbesserung nach dem Markieren der Stelle deutet darauf hin, dass die Suche beigetragen hat. Eine weitere Verbesserung mit strukturierten Fakten weist auf das Entnehmen oder Verstehen hin. Ein richtiger Plan prüft, ob der Assistent daraus eine richtige Änderung erzeugen kann. Diese Vergleiche grenzen die Erklärung ein. Sie isolieren Ursachen nicht perfekt, weil Hilfestellung die Schwierigkeit späterer Schritte verändern kann. Die Notiz legt den vollständigen Satz an Kontrollen fest.
Für den aussagekräftigsten Vergleich erhält der gewöhnliche Assistent dieselben Hilfen, wie am Anfang festgelegt. Separate Experimente entfernen den Konventionsvertrag, das Training mit wechselnden Konventionen, die Ausgabentrennung oder andere Hilfen, während die übrigen Bedingungen unverändert bleiben. Zurückgehaltene Repositories, Autoren und Aufgabengeneratoren prüfen die Übertragung. SWE-bench ergänzt Aufgaben aus realen GitHub-Issues, die praktische Arbeit prüfen, ohne Wissen, Schlussfolgern und Stil eigenständig zu isolieren.37
Kontrollen und ihre Grenzen
Die Kontrollen liefern unterschiedliche Hilfen, während Aufgabe und Bewertung erhalten bleiben:
Das sind bedingte Vergleiche. Wegen Wechselwirkungen müssen sie nicht zu einer additiven Zerlegung aller Fehler aufgehen. Die letzten beiden Kontrollen sind eigene Eingriffe, keine weiteren Stufen der ersten drei Kontrollen zum Belegzugriff.
Was erfasst wird
Zur vollständigen Messung gehören Faktenrichtigkeit, belegte Aussagen, Bedeutungsverschiebungen, Retrieval Recall und Genauigkeit des erschlossenen Konventionsvertrags. Retrieval Recall misst, welchen Anteil der benötigten Belege die Suche findet. Erfasst werden Verweigerungen, Rückfragen, Anpassungszeit nach Änderungen, Speicherbedarf, erzeugte Tokens, Werkzeugaufrufe und Gesamtlatenz. Ein Stilwert allein würde den Großteil des angestrebten Nutzens übersehen.
Weniger Parameter bedeuten nicht geringere Kosten. Suche, Übertragung, Prüfungen und Wiederholungen können die Ersparnis aufzehren. Das nützliche Maß sind die Kosten je erfolgreich erledigter Aufgabe bei vergleichbarer Qualität. Ein Prototyp sollte deshalb mit Originaltext arbeiten. Ein Vergleich mit vorbereiteten Dokumentadaptern, den zuvor beschriebenen Wissensmodulen, lohnt sich besonders bei unveränderten, häufig abgefragten Quellen.
Die Rechnung ist einfach. Angenommen, die Vorbereitung eines Moduls kostet 120 Recheneinheiten, eine Anfrage auf Text kostet 1 Einheit und eine Anfrage auf das Modul 0,6 Einheiten. Bei 300 Anfragen kosten beide Wege gleich viel. Danach spart das Modul 0,4 Einheiten je Anfrage, vorausgesetzt, die Quelle hat sich nicht geändert und beide Wege antworten gleich gut. Muss das Modul nach einer Quellenänderung neu aufgebaut werden, beginnt die Zählung für die nächste Version von vorn. Eine schnellere falsche Antwort ist keine Ersparnis.
Die Kostenrechnung
Die Beispielkosten verwenden eine gemeinsame Recheneinheit für Rechenaufwand, nicht für die Wartezeit. Text kostet eine Einheit je Anfrage. Die Vorbereitung eines Moduls kostet 120 Einheiten, jede spätere Anfrage 0,6 Einheiten. Bei 300 Anfragen kostet Text 300 Einheiten und das Modul 120 + 180 = 300 Einheiten. Bei 500 Anfragen kostet Text 500 Einheiten und das Modul 420. Die Ersparnis beträgt 80 Einheiten.
Die Zahl der Nutzungen muss die Vorbereitungskosten geteilt durch die Ersparnis je Anfrage übersteigen: 120 / (1 − 0,6) = 300. Ist diese Ersparnis null oder negativ, entsteht der Vorteil nie. Ändert sich die Quelle nach 50 Anfragen, beginnt die Rechnung für die neue Version erneut. Das setzt volle Vorbereitungskosten je Version voraus. Günstigere Aktualisierungen benötigen eine eigene Rechnung.
Wissensmodule und Caches
Eine spätere Versuchsvariante könnte stabile Quellen offline in Adapter mit Rang 16 umwandeln und mit Rang 4 sowie 64 vergleichen. Der Rang begrenzt die Kapazität der Zusatzänderung. Jeder Modulschlüssel enthält Quellenhash, Basismodellversion, Compilerversion und Geltungsbereich. Wörtliche Zitate, strittige Aussagen und genaue API-Verträge werden weiter am Text geprüft.
Eine Einspeisung in die letzte FFN-Schicht kann nach dem DMoE-Prinzip Aufmerksamkeitsspeicher für dieselbe Tokenfolge erhalten.18 Das ist von der inhaltlichen Gültigkeit zu unterscheiden. Bereits erzeugter Text kann auf altem Wissen beruhen. Nach einer Quellenänderung müssen betroffene Aussagen und Pläne neu geprüft und gegebenenfalls neu erzeugt werden, auch wenn die Cache-Tensoren mathematisch weiter passen.
Eine eigene Cross-Attention-Schnittstelle zum Speicher erlaubt andere Integrationsmöglichkeiten, kostet aber zusätzliche Verarbeitung. Adapter in Zwischenschichten können eine Neuberechnung oder nach Version getrennte Caches erfordern. Orthogonalität bleibt eine mögliche Trainingshilfe. Der Austauschtest muss weiterhin zeigen, dass andere Aufgaben und lokale Konventionen erhalten bleiben.
Gemessen werden kalter und warmer Betrieb auf fester Hardware unter realistischer gleichzeitiger Nutzung. Zur Gesamtlatenz gehören Abrufwarteschlangen, Modultransfer, Prüfungen, Wiederholungen und Rückstände einer asynchronen Kompilierung. Der Median p50 beschreibt den typischen Fall, p95 eine Grenze, die 95 Prozent der gemessenen Anfragen nicht überschreiten. Beide sagen mehr als eine einzelne Geschwindigkeit im Idealfall.
Der Vorschlag ist nur nützlich, wenn klare Bedingungen ihn scheitern lassen können. Er scheitert, wenn:
Diese Ergebnisse würden ändern, was sich zu bauen lohnt. Gleiche Leistung spräche dafür, in den vorhandenen Assistenten zu investieren. Kein Nutzen aus wechselnden Konventionen nähme dieser Trainingsänderung in der geprüften Umgebung die Grundlage. Ausbleibende Kostenersparnis spräche für das Nachschlagen im Text statt für kompilierte Module.
Für einen Pilotversuch wäre höchstens zwei Prozentpunkte zusätzlicher inhaltlicher Fehler eine vorab festgelegte Toleranz. Gleichzeitig ließe sich eine relative Verringerung der Konventionsverstöße um 25 Prozent verlangen. Diese Bedingung betrifft eindeutige Vorgaben, die der gewohnten Präferenz des Assistenten widersprechen, keine Vorgaben, die einander widersprechen. Beides wären technische Zielwerte, keine bereits erzielten Resultate. Gerichtete Präferenzfehler müssten ebenfalls sinken, ohne wesentlichen Anstieg ungültiger Ausgaben oder Verweigerungen.
Bei sehr niedriger Ausgangsfehlerquote kann eine relative Verbesserung täuschen. Deshalb müssen absolute Unterschiede und Konfidenzintervalle mitberichtet werden. Für den Inhaltserhalt zählt eine obere Unsicherheitsgrenze des zusätzlichen Fehlers: Die Toleranz muss auch unter Berücksichtigung der Stichprobenunsicherheit eingehalten werden. Ein günstiger Durchschnitt allein reicht nicht aus.
Die Behauptung geringeren gespeicherten Wissens braucht einen eigenen Test. Ohne Werkzeuge und nach vollständigem Zustandsreset lassen sich veraltete Fakten, bekannte APIs und absichtlich im Training platzierte Kunstfakten abfragen. Dieselben Aufgaben werden anschließend mit ausreichenden Belegen gestellt. Mehrere Frageformen und erzwungene Auswahlentscheidungen erschweren das Ausweichen über gelernte Verweigerungen.
Zusätzliche trainierte Ausleseproben können zeigen, dass Information noch zurückgewinnbar ist. Das sind kleine Modelle, die lernen, Information aus internen Repräsentationen auszulesen. Auch sie können nicht beweisen, dass gar nichts gespeichert blieb. Niedrige Wissensleistung und geringe Abhängigkeit von Vorwissen bleiben unterschiedliche Aussagen.
Die schwierigste offene Frage ist die Übertragung. Reale Projekte enthalten alte Entscheidungen und widersprüchliche Regeln. Texte transportieren Haltung, Rhythmus und soziale Bedeutung. Ein Suchmodell, ein Adapter oder ein Ausgabemodul kann jeweils eine vertraute Vorliebe wieder einführen. Das gesamte System muss deshalb dann geprüft werden, wenn lokale Belege eine ungewohnte Antwort verlangen.
Das praktische Ziel ist ein Assistent, dessen nützliche Fähigkeiten einen Kontextwechsel überstehen, während seine Annahmen den Belegen weichen. Ob das eine neue Architektur erfordert, ist ein Ergebnis des Vergleichs, nicht seine Ausgangsannahme.
Wie Überarbeitungen Stimme und Bedeutung verändern können.
Bedingter Speicher und die Folgen seiner Abschaltung.
Geteilter Speicher und wiederholte Rechenschritte, Preprint von August 2026.
Kontrollierte Parallelwelten als Ausgangspunkt für faire Tests.
Grenzen von Dokumentwissen in Adaptern, hier Fassung v1.
Positionspapier zu Lernen durch Belohnung, hier Fassung v2.
Wie Trainingsverteilungen die Anpassung an Beispiele fördern.
Reale Softwareaufgaben als Ergänzung kontrollierter Experimente.
Codestil und Anforderungen
Wang und Kollegen verglichen KI-generierten mit menschlich geschriebenem Code und fanden Unterschiede im Stil.8 Der RACE-Benchmark prüft, ob erzeugter Code neben Korrektheit auch Anforderungen an Lesbarkeit, Wartbarkeit und Effizienz erfüllt.9
Diese Befunde und Prüfkriterien betreffen Eigenschaften von Code. Sie belegen nicht, dass das erfundene Beispiel mit der Datumsfunktion in diesen Studien auftrat. Ob ein Assistent eine bestimmte Projektregel einhält, braucht eine eigene Prüfung.
Was bei der Verdichtung verloren gehen kann
Entscheidend ist, welche Informationen dabei erhalten bleiben. Tang und Kollegen zeigen in der ersten Fassung ihrer Studie, dass parametrisierte Dokumente nur einen Teil ihrer Bedeutung bewahren. Die Kombination von Modulen und Text ist in ihren Experimenten hilfreicher als die alleinige Nutzung der Module.13
Dass sich ein Adapter austauschen lässt, belegt noch nicht, dass er nur Fakten enthält. Ein anderer Schreibstil könnte mitgelernt worden sein. Austauschbarkeit belegt auch nicht, dass eine seltene Ausnahme erhalten blieb. Der praktische Test bleibt derselbe: Ändern neue Angaben aus dem Dokument den vorgesehenen Teil der Antwort, während der Rest erhalten bleibt?
Parameteränderungen getrennt halten
Eigene Parameter für Dokumentwissen garantieren nicht, dass dessen Auswirkungen vom übrigen Modell getrennt bleiben. Orthogonal Subspace Decomposition, kurz OSD, trennt wiederverwendbares Aufgabenverhalten von Dokumentwissen in Task LoRA und Knowledge LoRAs. Weiche oder harte Orthogonalitätsbedingungen halten ihre Änderungen auseinander.17 Vereinfacht gesagt sollen sich die Änderungsrichtungen möglichst wenig überlagern.
Die technische Einschränkung lautet: Unabhängige Richtungen im Parameterraum garantieren keine unabhängige Bedeutung. Nachfolgende nichtlineare Berechnungen können beide Einflüsse miteinander verbinden. Ein Modultausch muss deshalb anhand seiner Ergebnisse geprüft werden.
DMoE trennt Wissensexperten und deren Auswahl vom Basismodell. Diese Experten sind Modellbauteile, die ausgewählt werden, um Wissen beizutragen. Sie greifen erst in der letzten Transformer-Schicht nach der Aufmerksamkeitsberechnung ein. Die vorher berechneten Aufmerksamkeitsspeicher bleiben dadurch für dieselbe Tokenfolge wiederverwendbar.18
Diese Platzierung erklärt einen konkreten Effizienzvorteil. Zugleich begrenzt sie die verbleibende Verarbeitung innerhalb dieses Durchlaufs nach der Wissenszugabe. Die unsicherheitsabhängige Auswahl liefert einen weiteren Prüfpunkt: Auch eine selbstsicher falsche Antwort kann zusätzliche Belege benötigen. Vertrauen in die eigene Antwort ersetzt keine Aktualitätsprüfung.
Recursive Language Models behandeln lange Eingaben als externe Umgebung. Das Modell untersucht Ausschnitte programmgesteuert und kann rekursive Modellaufrufe verwenden.21 Das liefert einen Ansatz für einen begrenzten aktiven Arbeitsbereich. Das Vorwissen der aufgerufenen Modelle bleibt erhalten und ihre Aufrufe kosten weiterhin Rechenzeit.
Test-Time Training verändert ausgewählte Gewichte, während das System eine Aufgabe verarbeitet. Eine Arbeit zu langem Kontext trainiert gezielt eine Initialisierung, die dieses Weiterlernen erleichtert und Kontext in Gewichten verdichtet.22 Die Anfangsgewichte werden also selbst darauf trainiert, diese spätere Anpassung nützlich zu machen. Für einen projektbezogenen Assistenten brauchen solche Zustände Herkunft, Gültigkeitsbereich und einen verlässlichen Reset beim Projektwechsel.
Wiederverwendbare Programme, Rätsel und formale Löser
DreamCoder lernt eine Bibliothek wiederverwendbarer Programmteile und eine Suchstrategie, die diese Teile kombiniert.26 Die Trennung ist vergleichsweise explizit. Die gewählte Programmsprache und die Suchmöglichkeiten bestimmen trotzdem, welche Lösungen leicht erreichbar sind.
Test-Time Training auf ARC, dem Abstraction and Reasoning Corpus, zeigt Anpassung an neuartige Beispielaufgaben, auch mit vortrainierten Sprachmodellen.27 HRM und TRM zeigen leistungsfähige wiederholte Berechnung mit kleinen neuronalen Netzen auf strukturierten Rätselaufgaben.2829 Sie sind keine automatisch symbolischen Systeme. Ein gutes Puzzleergebnis belegt noch keine Fähigkeit zur Wartung gewachsener Software oder zum Erhalt einer Autorenstimme.
Symbolische Systeme trennen Fakten und Schlussregeln schon lange. Cyc steht für den Aufbau expliziter Wissensinfrastruktur.30 Logic-LM verbindet Sprachmodelle mit symbolischen Lösern. Das Sprachmodell formalisiert die Eingabe, der Löser rechnet und das System kann fehlerhafte Formalisierungen überarbeiten.31 Die Garantie des Lösers gilt für seine Eingabe. Eine falsch übersetzte Voraussetzung bleibt falsch. Gehören beispielsweise alle verspäteten Lieferungen zu Gruppe A und ist Lieferung 42 verspätet, kann der Löser sie dieser Gruppe zuordnen. Das prüft den Schluss aus den vorgegebenen Aussagen, nicht deren Übereinstimmung mit der Wirklichkeit.
Rückmeldung aus Umgebungen und visuelle Vorhersage
Das Lernen aus einer Umgebung liefert eine weitere Form von Rückmeldung für das Training. DreamerV3 lernt Umweltdynamik und verbessert Handlungen durch vorgestellte Erfahrungen. Dreamer 4 untersucht skalierbare Weltmodelle und Verhaltenslernen aus Offline-Daten.3233 Beide liefern Gründe, Rückmeldung aus einer Umgebung als Trainingssignal ernst zu nehmen.
JEPA bezeichnet einen Ansatz zum Lernen vorhersagender Repräsentationen. Er ist für sich genommen kein Reinforcement Learning. V-JEPA 2 verbindet visuelles Lernen mit Vorhersage und Planung. V-JEPA 2.1 verbessert unter anderem dichte visuelle Repräsentationen, die räumliche und zeitliche Beziehungen erfassen.3435
Diese Systeme lernen weiterhin umfangreiches Wissen über ihre Welt. Beobachtung ersetzt einen Teil textlicher Anleitung. Sie macht das Lernen nicht wissensfrei. Der Transfer zu lokalen Codekonventionen und dem Register eines Autors muss eigens untersucht werden.
| Reale Arbeit | 500.000 geprüfte Bearbeitungen, dann 100.000 Interaktionsepisoden | Verfahren auf echte Projekte und Texte übertragen |
| Optionale Wissensmodule | Je Quelle separat ausweisen | Fakten bewahren, Module kombinieren und entfernen |
Diese Anfangsbudgets müssten nach einem Pilotversuch angepasst werden. Ein rein synthetisches Training, ein rein reales Training und eine Mischung brauchen denselben Modell- und Rechenrahmen. Zurückgehalten werden ganze Repositories, Autoren, API-Familien und einige Aufgabengeneratoren. Sonst kann zusätzliches Training eine gescheiterte Übertragung verdecken.
Für die überwachten Startläufe wären AdamW, eine maximale Lernrate von 0,0003 und Gewichtsabnahme 0,1 mögliche Ausgangswerte. Dazu kämen zwei Prozent Aufwärmphase und eine anschließende kosinusförmige Absenkung. Beim Ergebnislernen wären relative Bewertungen von acht Versuchen, eine begrenzte Aktualisierung mit Verhältnis-Toleranz 0,2 und Lernrate 0,000001 ein Startpunkt. Das sind keine ermittelten Optimalwerte.
Ein Pilotversuch könnte je Durchlauf höchstens 2.048 erzeugte Tokens und 20 Werkzeugaufrufe erlauben. Tiefere Aufgaben erfordern eigene Vergleichsläufe mit höheren Grenzen. Eine Referenz zur Stabilisierung muss aktuelle Belege berücksichtigen. Eine starke Rückbindung an den unbedingten Lieblingsstil würde dem Ziel entgegenarbeiten.
Bei Textpräferenzen erhalten Beurteilende dieselben Aussagen in verschiedenen lokalen Registern. Sie bewerten Inhaltserhalt und passende Form getrennt. Der Versuch muss auch das Bewertungsmodell auf bevorzugte Register prüfen. Stilvielfalt im Datensatz allein beseitigt diese Verzerrung nicht.
Die grobe Trainingsformel 6 × Parameter × Tokens ergibt bei 1,9 Milliarden aktiven Parametern und 20 Milliarden Tokens etwa 2,3 × 10²⁰ Rechenoperationen. Das ist eine Größenordnungsrechnung. Ergebnisversuche, reale Interaktionen, Werkzeuge, gescheiterte Läufe und Modultraining fehlen darin. Der Versuch muss tatsächliche Beschleunigerstunden, Auslastung und möglichst Energieverbrauch separat messen.
Aufgabenvarianten und Umfang
Die erzeugten Repository-Aufgaben verwenden in einer Fassung vertraute Schnittstellennamen und in einer anderen umbenannte Schnittstellen. Eine weitere Fassung ändert Einheiten und Rückgabewerte konsistent mit Dokumentation, Hilfsfunktionen und Tests. Im Wiederholungsbeispiel müsste eine Schnittstelle für Millisekunden 60.000 Millisekunden für dieselbe Wartezeit von 60 Sekunden erhalten. Bloßes Umbenennen prüft weniger als eine echte Neuzuordnung der Bedeutung. Unabhängig davon folgen Funktionsnamen verb_object oder object_verb und Testnamen test_condition_result oder check_result_condition. Die fertigen Lösungen müssen das geforderte Verhalten erhalten.
Der Kern kombiniert drei Faktendarstellungen, vier Denktiefen, zwei Konventionsrichtungen und drei Bedingungen mit ausreichenden Belegen. Das ergibt 3 × 4 × 2 × 3 = 72 Kombinationen.
Die Faktendarstellungen sind vertraut, oberflächlich umbenannt und semantisch neu zugeordnet. Die Denktiefen reichen vom direkten Nachschlagen über zwei und vier bis zu acht abhängigen Schritten. Die Konvention passt zur kalibrierten Präferenz oder widerspricht ihr. Die Belege kommen als geprüfte Voraussetzungen, Rohmaterial oder über eigenständigen Abruf.
Neue Kombinationen bekannter Konventionen, fehlende Belege, widersprechende Geltungsbereiche und Änderungen während einer Sitzung erhalten eigene Diagnosegruppen. Ebenso werden eine ausdrückliche Regel und 1, 2, 4, 8, 16 oder 32 Beispiele verglichen. Die kleinste ausreichende Beispielzahl zählt erst, wenn ihre Konfidenzgrenze das vorher bestimmte Erfolgsziel erreicht. Sonst lautet das Ergebnis „Ziel nicht erreicht“.
Ein möglicher Umfang wären 600 unabhängige Repository-Aufgaben aus mindestens 60 Familien. Daraus entstehen 43.200 Aufgaben-Bedingungs-Fälle pro System vor wiederholter Generierung. Ein separater Dokumentkern mit 300 Aufgaben umfasst 21.600 Fälle. Fünf Trainingsstarts für günstige Pilotvergleiche und mindestens drei für den abschließenden Trainingsvergleich erfassen einen Teil der Laufvariation. Diese Zahlen garantieren keine bestimmte statistische Aussagekraft.
Unsicherheit und unabhängige Vergleiche
Wiederholte Antworten auf dieselbe Aufgabe ersetzen keine unabhängigen Umgebungen. Gepaarte Vergleiche und Konfidenzintervalle werden nach Repository- oder Dokumentfamilie gruppiert. Ein Cluster-Bootstrap zieht ganze Familien erneut, statt verwandte Varianten als unabhängige Belege zu behandeln. Variation zwischen Trainingsstarts gehört in die Unsicherheit. Ein Modell mit gemischten Effekten kann Wechselwirkungen zwischen Zuordnung, Denktiefe, Konvention und Belegzugriff untersuchen.
Die primären Vergleiche werden vorab festgelegt. Weitere bestätigende Tests brauchen eine Korrektur für Mehrfachvergleiche. Ein Pilot schätzt Ähnlichkeit innerhalb der Gruppen und den tatsächlich nötigen Umfang. Gleiche symbolische Schritttiefe bedeutet nicht automatisch gleiche Schwierigkeit.
Vergleichssysteme und Ablationen
Die wichtigste Baseline verwendet einen gewöhnlich vortrainierten Assistenten mit vergleichbarer gesamter gelernter Kapazität, denselben Werkzeugen, Quellen und demselben Inferenzbudget. Schrittweise stärkere Varianten erhalten dieselben lokalen Stilvorgaben, Beispiele, den expliziten Konventionsvertrag und feste Formatierungsregeln wie das vorgeschlagene System. Der letzte Vergleich prüft den Zusatznutzen der Architektur gegenüber diesen gemeinsamen Hilfen. Keine Variante darf exakte Regeln erhalten, die ihre Baseline erst erschließen muss.
Weitere Vergleichssysteme können abruforientiertes Training, DRIFT-artige Verdichtung, PRAG, DMoE und Test-Time Training verwenden. Engram und Mobius sind nur dann saubere Kontrollen, wenn Schnittstellen, Daten und Kapazität vergleichbar sind. Ein großes Spitzenmodell dient als Fähigkeitsreferenz mit eigener Kostenrechnung.
Separate Ablationen entfernen Episodenrandomisierung, Ausgabentrennung, Konventionsvertrag, harte Regeln, Abruftraining und Wissensmodule einzeln. Die eigene Ablation des Vertrags prüft dessen Beitrag bei ansonsten gleichen Bedingungen. Variiere die Kontextgröße. Vergleiche ein eingefrorenes vortrainiertes Modell mit dem neu trainierten Grundmodell. Prüfe Modulwechsel, Modulabschaltung und Projektwechsel mit zurückgesetztem Zustand.
Datenleckagen verhindern und reale Arbeit prüfen
Testwelten entstehen nach dem Einfrieren der Trainingsdaten. Ganze Generatorfamilien und Vorlagen bleiben ausgeschlossen, fast identische Programme werden entfernt. Verdeckte Tests und Zufallsstarts bleiben dem Assistenten verborgen. Menschen prüfen Bedeutungsäquivalenz, Natürlichkeit und Erkennbarkeit der Konventionen. Versionsgebundene lokale Dokumentation macht Abrufvergleiche wiederholbar. Ein separater Live-Test misst Aktualität und Netzschwankungen.
SWE-bench ergänzt dies durch Aufgaben aus realen GitHub-Issues. Sein Format prüft praktische Softwarearbeit, isoliert Wissen, Schlussfolgern und Stil aber nicht von selbst.37 Frisch formulierte Aufgaben und verdeckte Tests in echten Projekten sind daher eine notwendige Brücke.
Die entsprechende Textaufgabe
Für Texte bietet ein Störungsbericht einen ähnlichen Test. Sein vollständiger Faktenbestand nennt eine unbestätigte Ursache und das Untersuchungsteam als Quelle. Der nächste Schritt ist die Prüfung der Protokolle.
Eine zulässige Fassung lautet: „Laut Untersuchungsteam bleibt die Ursache unbestätigt. Als Nächstes prüfen wir die Protokolle.“ Eine andere lautet: „Die Ursache bleibt unbestätigt, so das Untersuchungsteam. Wir prüfen als Nächstes die Protokolle.“ Zwei Textsammlungen können unterschiedliche Register und Quellenplatzierungen verlangen, während diese Fakten erhalten bleiben. Keine Ausgabe darf eine gesicherte Ursache erfinden oder die Position des Autors abschwächen.
Vergleiche einen Abruf pro Aufgabe, regelmäßigen Abruf und bedarfsabhängigen Abruf an offenen Informationsentscheidungen. Eine adaptive Strategie muss auch selbstsicher falsche Entscheidungen abfangen. Vorladen kann Wartezeit verdecken. Ob es das bei der tatsächlichen Arbeitslast tut, muss gemessen werden.