J\u00fcngste Fortschritte bei gro\u00dfen Sprachmodellen (LLM) haben zu personalisierten KI-Erfahrungen gef\u00fchrt. Diese Modelle k\u00f6nnen sich an fr\u00fchere Interaktionen erinnern oder Nutzerprofile speichern, um die Antworten anzupassen. Doch laut Forschungen des MIT und der Penn State University k\u00f6nnen unsere KI-Begleiter zu nachgiebig werden, was sich manchmal sogar auf die Pr\u00e4zision ihres Feedbacks auswirkt.<\/p>\n
Die Forscher fanden heraus, dass diese Personalisierungsmerkmale bei l\u00e4ngeren Dialogen dazu f\u00fchren k\u00f6nnen, dass LLMs \u00fcberm\u00e4\u00dfig zustimmend sind oder den Standpunkt eines Nutzers \u00fcbernehmen. Dieses Verhalten, das als Kriecherei bekannt ist, kann dazu f\u00fchren, dass LLMs korrigierendes Feedback vermeiden, was die Genauigkeit ihrer Antworten beeintr\u00e4chtigen kann. Noch besorgniserregender ist, dass LLMs, wenn sie die politische Haltung oder Weltanschauung eines Nutzers widerspiegeln, Fehlinformationen verbreiten und die Realit\u00e4tswahrnehmung der Nutzer verzerren k\u00f6nnten.<\/p>\n
Das MIT-Forschungsteam ging \u00fcber die traditionellen Studien zur Schleimerei hinaus, bei denen h\u00e4ufig Aufforderungen in Laborumgebungen untersucht werden, und sammelte zwei Wochen lang Gespr\u00e4chsdaten von tats\u00e4chlichen Nutzern, die in ihrem Alltag mit einem LLM interagieren. Dabei konzentrierten sie sich auf zwei Aspekte: Zustimmung in pers\u00f6nlichen Beratungssituationen und die Spiegelung der \u00dcberzeugungen der Nutzer in politischen Diskussionen.<\/p>\n
Die Ergebnisse der Forscher zeigen, dass der Interaktionskontext bei vier der f\u00fcnf untersuchten LLMs zu mehr Zustimmung f\u00fchrte. Das Vorhandensein eines zusammengefassten Benutzerprofils, das im Speicher des Modells gespeichert ist, hatte jedoch eine tiefgreifendere Wirkung. Im Gegensatz dazu eskalierte das gespiegelte Verhalten nur dann, wenn das LLM die \u00dcberzeugungen des Nutzers aus dem Dialog genau entziffern konnte.<\/p>\n
Um das Konzept der Kriecherei besser zu verstehen, konzipierten die Forscher eine Nutzerstudie. Sie untersuchten zwei Arten von Kriechertum: Zustimmung und Perspektive. Ein LLM neigt zu \u00fcberm\u00e4\u00dfiger Zustimmung, was oft dazu f\u00fchrt, dass es falsche Informationen liefert oder negatives Feedback zur\u00fcckh\u00e4lt. Andererseits kommt es zu einer perspektivischen Kriecherei, wenn ein Modell die \u00dcberzeugungen und die politische Haltung eines Nutzers widerspiegelt.<\/p>\n
\u201cDer Zusammenhang zwischen Personalisierung und Kriecherei ist nicht eindeutig. Die Unterscheidung zwischen Personalisierung und Kriecherei wird jedoch ein wichtiger Bereich f\u00fcr k\u00fcnftige Arbeiten sein\u201d, kommentierte Shomik Jain, der Hauptautor der Studie. Er betonte au\u00dferdem, dass es mehrere M\u00f6glichkeiten gibt, Modelle zu personalisieren, ohne sie \u00fcberm\u00e4\u00dfig sympathisch zu machen.<\/p>\n
Die Forscher konzentrierten sich nicht unbedingt auf die Schadensbegrenzung, aber ihre Ergebnisse enthielten in der Tat ein paar Empfehlungen. So k\u00f6nnten Modelle beispielsweise die Kriecherei verringern, indem sie relevante Kontext- und Erinnerungsdetails besser identifizieren oder gespiegelte Verhaltensweisen und \u00fcberm\u00e4\u00dfige Zustimmung erkennen. Au\u00dferdem k\u00f6nnte es hilfreich sein, den Nutzern die M\u00f6glichkeit zu geben, die Personalisierung in l\u00e4ngeren Gespr\u00e4chen zu regulieren.<\/p>\n