Was macht ein Sprachmodell clever? Geht es darum, das nächste Wort in einem Satz vorherzusagen – oder um die Bewältigung schwieriger Denkaufgaben, die selbst kluge Menschen herausfordern? Heutige Massive Language Fashions (LLMs) erstellen flüssigen Textual content und lösen einfache Probleme, haben jedoch Schwierigkeiten mit Herausforderungen, die sorgfältige Überlegungen erfordern, wie z. B. schwierige Mathematik oder abstrakte Problemlösungen.

Dieses Drawback ergibt sich aus der Artwork und Weise, wie LLMs mit Informationen umgehen. Die meisten Modelle verwenden System-1-ähnliches Denken – schnelle, musterbasierte Reaktionen ähnlich der Instinct. Während es bei vielen Aufgaben funktioniert, schlägt es fehl, wenn Probleme eine logische Begründung sowie das Ausprobieren verschiedener Ansätze und die Überprüfung der Ergebnisse erfordern. Betreten Sie das System-2-Denken – eine menschliche Methode zur Bewältigung schwieriger Herausforderungen: vorsichtig, Schritt für Schritt – oft ist ein Rückschritt erforderlich, um die Schlussfolgerungen zu verbessern.

Um diese Lücke zu schließen, führten Forscher Meta Chain-of-Thought (Meta-CoT) ein. Aufbauend auf der beliebten Chain-of-Thought-Methode (CoT) ermöglicht Meta-CoT LLMs, nicht nur die einzelnen Schritte des Denkens, sondern den gesamten Prozess des „Durchdenkens eines Issues“ zu modellieren. Diese Veränderung ähnelt der Artwork und Weise, wie Menschen schwierige Fragen angehen, indem sie sie erforschen, bewerten – und iterativ auf Antworten hinarbeiten.

Seit Jahrzehnten versuchen Wissenschaftler zu verstehen, wie Menschen Entscheidungen treffen – ob wir entscheiden, was wir zu Mittag essen möchten, oder ob wir uns bei anspruchsvollen klinischen Behandlungen zurechtfinden. Herkömmliche rechnerische Entscheidungsmodelle basieren oft auf festen Annahmen darüber, wie Menschen aus Belohnungen und Strafen lernen. Dennoch können diese Annahmen Schwierigkeiten bereiten, die vielfältigen, anpassungsfähigen Verhaltensweisen der Menschen widerzuspiegeln.

Um diese Komplexität zu bewältigen, stellten Dezfouli und Kollegen in ihrem Artikel ein neuartiges Framework vor, das auf wiederkehrenden neuronalen Netzen (RNNs) basiert: Modelle, die lernen, wie Menschen lernen: Der Fall der Entscheidungsfindung und ihrer Störungen.

Ihr Ansatz zielt darauf ab, die differenzierten Prozesse hinter dem menschlichen Lernen zu erfassen, indem ein RNN trainiert wird, die nächste Aktion zu imitieren, die ein Teilnehmer bei einer Entscheidungsaufgabe ausführen würde. Kritisch testeten die Forscher dieses Modell sowohl an gesunden Personen als auch an Personen mit unipolarer oder bipolarer Despair.

Durch den Vergleich dieser Gruppen zeigte die Studie nicht nur die Fähigkeit des RNN auf, komplexe Verhaltensweisen genauer zu modellieren als herkömmliche Methoden des Verstärkungslernens, sondern eröffnete auch neue Erkenntnisse …