Don’t be fooled – LLMs don’t reason.
Aktuelle Large Language Models wie ChatGPT erzeugen Sprache durch die statistische Vorhersage des nächsten Tokens. Dies entspricht einer hochentwickelten Form intuitiver Mustererkennung, vergleichbar mit dem menschlichen System 1 nach Daniel Kahneman – schnell, assoziativ und mühelos.
Sie verfügen jedoch nicht über eine genuine deliberative Komponente (System 2), die schrittweise, überprüfbar und mit einem expliziten epistemischen Zustand arbeitet.
Ein anschauliches Gegenbeispiel liefert AlphaGo von DeepMind. Als das System 2016 Lee Sedol besiegte, war der berühmte Zug 37 in Spiel 2 kein reiner Intuitionsakt des Policy Networks, das diesen Zug als extrem unwahrscheinlich (etwa 1 zu 10.000) einstufte. Entscheidend war die separate Search Machinery: Sie baute einen Spielbaum auf, evaluierte Tausende möglicher Zukunftszweige und wählte den Zug aufgrund deliberativer Bewertung zukünftiger Konsequenzen.
Im Gegensatz dazu arbeitete IBMs Deep Blue 1997 gegen Kasparov primär mit Brute-Force-Berechnung und hartkodierten Regeln.
Bei LLMs bleibt auch „Chain of Thought“ innerhalb desselben next-token-prediction-Mechanismus. Studien zeigen, dass die generierten Gedankenschritte häufig post-hoc rationalisiert werden und nicht den tatsächlichen internen Weg zur Lösung abbilden.
Drei zentrale Defizite bestehen:
- Es gibt keinen expliziten, persistenten Wissenszustand (kein offenes Ledger von Hypothesen, Evidenzen und offenen Fragen).
- Wissen und Manipulationsregeln sind untrennbar in den Netzgewichten verschmolzen.
- Die scheinbare Deliberation ist oft eine nachträgliche Konstruktion.
Für den Einsatz in Medizin, Wissenschaft und Ingenieurwesen ist jedoch nicht nur das Ergebnis, sondern vor allem der nachvollziehbare Denkweg entscheidend.
Thore Graepel, ehemaliges Kernmitglied des AlphaGo-Teams und heute Professor am University College London, plädiert daher für eine neue Architektur, die einen expliziten epistemischen Zustand pflegt. Denken würde darin als Sequenz von Zustandsübergängen verstanden, die Unsicherheit systematisch reduzieren – analog zur wissenschaftlichen Methode und der dualen Architektur von AlphaGo.
Quelle: MIT Tech AI
FAQ
Warum gilt „Chain of Thought“ nicht als echtes Denken?
Weil die Zwischenschritte weiterhin durch denselben statistischen Token-Vorhersage-Prozess erzeugt werden und nicht durch eine separate, überprüfbare Deliberationsmaschinerie.
Was unterscheidet AlphaGo von heutigen LLMs?
AlphaGo besaß eine klare Trennung zwischen intuitivem Policy Network und einem expliziten Such- und Bewertungsmechanismus (System 2). LLMs besitzen diese Trennung nicht.
Warum ist ein expliziter epistemischer Zustand für zukünftige KI wichtig?
Er ermöglicht nachvollziehbare, korrigierbare und beweisbasierte Schlussfolgerungen – Voraussetzung für den verantwortungsvollen Einsatz in kritischen Domänen wie Medizin und Wissenschaft.