Haben Sie schon von den gro\u00dfen Sprachmodellen (LLMs) wie ChatGPT geh\u00f6rt? Das sind wahre Programmierwunder, die im Handumdrehen Aufs\u00e4tze verfassen, Ideen f\u00fcr Mahlzeiten liefern oder Ihnen sogar beim Verfassen Ihrer E-Mails helfen k\u00f6nnen. Doch so beeindruckend sie auch sind: Bei anspruchsvollen Aufgaben wie der Probleml\u00f6sung haben sie sich bisher nicht besonders bew\u00e4hrt, vor allem nicht in der Mathematik oder bei komplexen Denkprozessen. Dieses Manko verliert jedoch zunehmend an Bedeutung.<\/p>\n
Nun h\u00e4lt eine neue Generation von LLMs Einzug, die als \u201eReasoning-Modelle\u201c bezeichnet werden und bei der Bew\u00e4ltigung komplexer Aufgaben erhebliche Fortschritte zeigen. Im Gegensatz zu ihren Vorg\u00e4ngern, die sich stark auf Sprachmuster st\u00fctzten, um Antworten zu erraten, wenden diese Modelle bewusstere, schrittweise Strategien an, \u00e4hnlich wie es ein Mensch tun w\u00fcrde.<\/p>\n
Dar\u00fcber hinaus stellten Forscher am McGovern Institute for Brain Research des MIT eine auff\u00e4llige \u00c4hnlichkeit fest, wie Menschen und diese neuen Modelle an schwierige Aufgaben herangehen. Interessanterweise stellten sie fest, dass Aufgaben, die vom Menschen die gr\u00f6\u00dfte geistige Anstrengung erfordern, auch diejenigen sind, die bei Schlussfolgerungsmodellen die gr\u00f6\u00dfte Rechenlast verursachen. Dies f\u00fchrte zu einem neuen Konzept: Die \u201cKosten des Denkens\u201d gehen \u00fcber die Grenze zwischen Mensch und Maschine hinaus.<\/p>\n
Diese etwas unerwartete Konstellation f\u00fchrte das MIT-Team unter der Leitung von Associate Professor Evelina Fedorenko<\/a> \u00fcberraschenderweise. Die Entwickler dieser Modelle konzentrieren sich in der Regel darauf, ein System zu schaffen, das unter zahlreichen Bedingungen gut funktioniert und genaue Ergebnisse liefert, anstatt das kognitive Verhalten des Menschen nachzuahmen. Daher war die Konvergenz von menschlicher und maschineller Leistung eine unerwartete, aber spannende Entdeckung.<\/p>\n Diese Denkmodelle sind im Grunde genommen nach wie vor k\u00fcnstliche neuronale Netze \u2013 Systeme, die durch die Analyse von Daten und das Erkennen von Mustern lernen. Sie gehen jedoch einen Schritt weiter als ihre Vorg\u00e4nger, indem sie sich mit komplexeren kognitiven Aufgaben wie mathematischen Problemen oder dem Programmieren befassen. Eine zentrale Innovation ist ihr Ansatz zur Probleml\u00f6sung: Diese Modelle zerlegen Probleme in kleinere Teile, was ihre Leistungsf\u00e4higkeit erheblich steigert.<\/p>\n Ingenieure nutzen zudem das verst\u00e4rkende Lernen, um diese Modelle zu trainieren, wobei richtige Antworten belohnt und falsche bestraft werden. Das Modell lernt im Laufe der Zeit, L\u00f6sungswege zu erkunden, die h\u00e4ufiger zu korrekten Schlussfolgerungen f\u00fchren, und ahmt so einen eher menschen\u00e4hnlichen kognitiven Prozess nach. Diese traditionelle Methode dauert zwar l\u00e4nger als die von fr\u00fcheren LLMs verwendeten Verfahren, verbessert jedoch die Genauigkeit erheblich.<\/p>\nWas zeichnet also Schlussfolgerungsmodelle aus?<\/h5>\n