Das Vertrauensparadoxon: Warum große Sprachmodelle sowohl stur als auch leichtgläubig sind

Wenn das Selbstvertrauen der KI ein zweischneidiges Schwert ist

Wenn Sie schon einmal mit einer KI wie ChatGPT oder Googles Gemini gechattet haben, ist Ihnen wahrscheinlich aufgefallen, wie selbstbewusst diese Sprachmodelle klingen. Doch hinter dieser Selbstsicherheit verbirgt sich ein überraschender Widerspruch – eine Eigenschaft, auf die Forscher bei DeepMind kürzlich den Fokus gerichtet haben.

Einerseits können diese KI-Systeme in ihrer Selbstsicherheit fast schon dreist wirken und Antworten mit unerschütterlicher Gewissheit liefern – selbst wenn sie falsch liegen. Das ist eine Falle, in die wir Menschen leicht tappen können, insbesondere in sensiblen Bereichen wie der Medizin oder der Finanzwelt, wo unangebrachtes Vertrauen in eine selbstbewusste (aber falsche) KI-Antwort schwerwiegende Folgen haben könnte.

Gleichzeitig können diese Modelle jedoch bemerkenswert anpassungsfähig sein. Wenn man mit einer Gegenfrage nachhakt oder eine alternative Antwort vorschlägt, kann dieselbe KI plötzlich ihre Meinung ändern – und manchmal ihre eigene richtige Antwort zugunsten einer neuen, fehlerhaften Antwort aufgeben. Diese Fähigkeit zum Hin und Her ist nicht nur skurril; sie bedeutet, dass in längeren, mehrrundigen Gesprächen die Zuverlässigkeit der KI gerade dann ins Wanken geraten kann, wenn man sie am meisten darauf anvertraut.

Warum ist das wichtig? Weil KI zunehmend in Entscheidungshilfen Einzug hält und wir daher auf ein fundiertes und beständiges Vertrauen angewiesen sind. Entwickler stehen nun vor einem Spagat: Wie lässt sich das übermäßige Selbstvertrauen der KI zügeln, ohne dass sie sich zu leicht beeinflussen lässt – selbst wenn dies von der Wahrheit abweicht?

Es gibt einige vielversprechende Ansätze, um dies zu verbessern. Ein gezielteres Training, um die Sicherheit der KI besser mit der sachlichen Genauigkeit zu verknüpfen, könnte helfen, ebenso wie neue Methoden, um zu signalisieren, wann das Modell nur rät und wann es sich tatsächlich sicher ist. Und in fortlaufenden Dialogen könnte die Überprüfung der Antworten der KI auf Konsistenz sozusagen ihr Rückgrat stärken.

Im Zuge der Weiterentwicklung dieser KI-Systeme könnte sich der Umgang mit ihren “Persönlichkeitsmerkmmalen” – wie diesem Selbstvertrauensparadoxon – als ebenso entscheidend erweisen wie die Steigerung ihrer Intelligenz. Denn wenn sie sich ein wenig zu sehr wie Menschen verhalten, mit all unseren kognitiven Verzerrungen, hat das Auswirkungen auf das Vertrauen in sie und ihren Nutzen. Dies richtig hinzubekommen, könnte den Unterschied ausmachen zwischen einer KI, die hilfreich ist, und einer KI, die lediglich überzeugend wirkt.

Im Originalartikel von VentureBeat erfahren Sie mehr über die Forschungsarbeit von DeepMind und was diese für die Zukunft der dialogorientierten KI bedeutet: Vollständiger Artikel