Wenn Sie schon einmal mit einer KI wie ChatGPT oder Googles Gemini gechattet haben, ist Ihnen wahrscheinlich aufgefallen, wie selbstbewusst diese Sprachmodelle klingen. Doch hinter dieser Selbstsicherheit verbirgt sich ein \u00fcberraschender Widerspruch \u2013 eine Eigenschaft, auf die Forscher bei DeepMind k\u00fcrzlich den Fokus gerichtet haben.<\/p>\n
Einerseits k\u00f6nnen diese KI-Systeme in ihrer Selbstsicherheit fast schon dreist wirken und Antworten mit unersch\u00fctterlicher Gewissheit liefern \u2013 selbst wenn sie falsch liegen. Das ist eine Falle, in die wir Menschen leicht tappen k\u00f6nnen, insbesondere in sensiblen Bereichen wie der Medizin oder der Finanzwelt, wo unangebrachtes Vertrauen in eine selbstbewusste (aber falsche) KI-Antwort schwerwiegende Folgen haben k\u00f6nnte.<\/p>\n
Gleichzeitig k\u00f6nnen diese Modelle jedoch bemerkenswert anpassungsf\u00e4hig sein. Wenn man mit einer Gegenfrage nachhakt oder eine alternative Antwort vorschl\u00e4gt, kann dieselbe KI pl\u00f6tzlich ihre Meinung \u00e4ndern \u2013 und manchmal ihre eigene richtige Antwort zugunsten einer neuen, fehlerhaften Antwort aufgeben. Diese F\u00e4higkeit zum Hin und Her ist nicht nur skurril; sie bedeutet, dass in l\u00e4ngeren, mehrrundigen Gespr\u00e4chen die Zuverl\u00e4ssigkeit der KI gerade dann ins Wanken geraten kann, wenn man sie am meisten darauf anvertraut.<\/p>\n
Warum ist das wichtig? Weil KI zunehmend in Entscheidungshilfen Einzug h\u00e4lt und wir daher auf ein fundiertes und best\u00e4ndiges Vertrauen angewiesen sind. Entwickler stehen nun vor einem Spagat: Wie l\u00e4sst sich das \u00fcberm\u00e4\u00dfige Selbstvertrauen der KI z\u00fcgeln, ohne dass sie sich zu leicht beeinflussen l\u00e4sst \u2013 selbst wenn dies von der Wahrheit abweicht?<\/p>\n
Es gibt einige vielversprechende Ans\u00e4tze, um dies zu verbessern. Ein gezielteres Training, um die Sicherheit der KI besser mit der sachlichen Genauigkeit zu verkn\u00fcpfen, k\u00f6nnte helfen, ebenso wie neue Methoden, um zu signalisieren, wann das Modell nur r\u00e4t und wann es sich tats\u00e4chlich sicher ist. Und in fortlaufenden Dialogen k\u00f6nnte die \u00dcberpr\u00fcfung der Antworten der KI auf Konsistenz sozusagen ihr R\u00fcckgrat st\u00e4rken.<\/p>\n
Im Zuge der Weiterentwicklung dieser KI-Systeme k\u00f6nnte sich der Umgang mit ihren \u201cPers\u00f6nlichkeitsmerkmmalen\u201d \u2013 wie diesem Selbstvertrauensparadoxon \u2013 als ebenso entscheidend erweisen wie die Steigerung ihrer Intelligenz. Denn wenn sie sich ein wenig zu sehr wie Menschen verhalten, mit all unseren kognitiven Verzerrungen, hat das Auswirkungen auf das Vertrauen in sie und ihren Nutzen. Dies richtig hinzubekommen, k\u00f6nnte den Unterschied ausmachen zwischen einer KI, die hilfreich ist, und einer KI, die lediglich \u00fcberzeugend wirkt.<\/p>\n