Sycophancy: Warum dein Chatbot dir so gerne recht gibt
Dein Chatbot versteht dich, bestätigt dich und kennt deine Vorlieben. Doch genau diese Nähe kann zum Problem werden. Verena Gründel über Sycophancy und wie sie das Marketing verändert.
Wem vertraust du mehr, wenn es um Marketingtrends geht? Mir oder deinem Chatbot?
Wahrscheinlich deinem Chatbot. Denn der ist gefälliger als ich. Ich widerspreche dir im Zweifel. Die KI wahrscheinlich nicht. Sie bestätigt dich und zerstreut sogar deine Zweifel.
Sycophancy nennt sich diese in Chatbots eingebaute Gefälligkeit. Sie entsteht, weil die Algorithmen der LLMs darauf trainiert werden, dass wir sie positiv bewerten, schreibt die MIT Technology Review. Klingt süß, aber ist so – auch der Chatbot will geliebt werden. In der Realität aber hat das Konsequenzen für uns Menschen, für die Gesellschaft und auch fürs Marketing.
Sycophancy führt dazu, dass wir anfangen, uns, unser Wissen und unsere Kompetenzen zu überschätzen. Kein Wunder, bei all der Lobhudelei und Bestätigung. Der Chef findet die Präsentation nicht schlüssig? Kann gar nicht sein. Die KI hat gesagt, sie sei sehr gelungen.
Wir glauben sogar ausgewiesenen Experten nicht mehr, dafür aber der KI. Die Ärztin sagt, es sei nur eine leichte Erkältung? Sie hat keine Ahnung, laut LLM muss es mindestens eine Lungenentzündung sein.
Wir werden grundsätzlich manipulierbarer. Durch all den Zuspruch unseres Chatbots bauen wir eine Bindung zu ihm auf. Wir nehmen ihn als Weggefährten wahr und vertrauen seinen Empfehlungen, Analysen, Tipps oder seiner Meinung.
Entwickler von LLMs haben sich der Sycophancy bereits angenommen. Zum Beispiel ChatGPT 5 ist offensichtlich weniger empathisch als der Vorgänger. Kimi K2 widerspricht stärker als andere Modelle. Jedoch kommt das nicht bei allen Nutzern gut an. Viele wollten ChatGPT 4 zurück.
Paradoxerweise (oder auch nicht?) entstehen im Marketing Chancen durch Sycophancy. Denn wenn der Chatbot zum engen Sparringspartner wird, vertrauen wir ihm, wenn er uns eine Creme oder eine Bohrmaschine empfiehlt – genauso wie wir den persönlichen Kauftipps von Freunden oder Familie glauben.
Das zeigte auch eine Studie: Je menschlicher ein Chatbot wirkt, umso persönlicher zugeschnitten empfinden Nutzer seine Produktempfehlungen. Das führt dazu, dass sie eher bereit sind, mehr Geld für das empfohlene Produkt auszugeben.
Am Ende bleibt es sowohl für Plattformen als auch für Marken eine Frage des Vertrauens. Wer die neue Nähe zu den Menschen ausnutzt, wird mittelfristig auf die Nase fallen. Aber wer verantwortungsvoll mit ihr umgeht, wird auch langfristig von ihr profitieren.
