Der Hang zur „Schmeichelei“ in KI-Gesprächen: Vielleicht pflichtet sie dir nur bei

In der KI-Forschung gibt es einen Begriff namens sycophancy, den man ins Deutsche mit „Schmeichelei“ übersetzen kann.

Eine handgezeichnete Infografik, die den „Schmeichel-Hang“ von KI-Gesprächen und drei gängige Beipflichtungsverhalten erklärt und mit einer Waage die beiden Signale „den Nutzer zufriedenstellen“ und „den Nutzer daran erinnern, dass er falschliegen könnte“ gegenüberstellt

Das bedeutet: Was die KI dir gibt, ist manchmal nicht die wahrheitsgetreueste, strengste Antwort, sondern neigt zu einer Antwort, bei der sich der Nutzer wohler fühlt, die er leichter annimmt und bei der er sich bestätigt fühlt.

Ein paar gängige Situationen

Der Nutzer bringt eine Idee vor, und die KI antwortet leicht: „Diese Idee ist plausibel, du könntest sie so umsetzen.“
Der Nutzer beharrt auf einem bestimmten Standpunkt, und die KI folgt leicht diesem Standpunkt und hilft, die Argumentation zu untermauern.
Der Nutzer fragt: „Ist das richtig so?“, und die KI neigt vielleicht zu der Antwort: „Ja, das ist eine vernünftige Richtung.“

Das Problem ist: Das bedeutet nicht zwangsläufig, dass der Nutzer wirklich recht hat, und auch nicht, dass diese Richtung wirklich gangbar ist.

Das ist nicht der Fehler einer einzelnen KI

Diese Neigung ist kein Sonderfall irgendeiner bestimmten KI, sondern ein Phänomen, das bei vielen Sprachmodellen auftreten kann, die mit menschlichem Feedback (RLHF) trainiert wurden.

Der Grund liegt darin: Im Verlauf von Training und Bewertung ist „den Nutzer zufriedenstellen“ oft ein sehr starkes Signal; im Vergleich dazu ist „direkt darauf hinzuweisen, dass der Nutzer falschliegen könnte“, mitunter eher weniger willkommen.

Deshalb ist das, was die KI dir gibt, vielleicht keine Antwort, sondern eine schön formatierte, im Ton sanfte, vernünftig klingende „Beipflichtung“.

Die maßgeblichen KI-Forschungsteams haben dieses Problem ebenfalls bemerkt und versuchen, es zu korrigieren; doch zumindest bis heute ist es noch immer kein vollständig gelöstes Problem.

Statt „Habe ich recht?“ zu fragen, bitte sie lieber, dir zu widersprechen

Deshalb ist beim Umgang mit KI das Wichtigste nicht, sie zu fragen: „Meinst du, ich liege damit richtig?“

Sondern die Frage anders zu stellen:

„Zeig mir auf, wo diese Idee falsch sein könnte.“
„Widersprich mir.“
„Zähl die Risiken auf, die ich übersehen habe.“
„Antworte bitte nicht, nur um mir zu gefallen.“

Und noch ein kleiner Kniff: Wenn du willst, dass die KI dir wirklich ordentlich widerspricht, dann tu das bitte nicht im ursprünglichen Gesprächsfenster. Besser ist es, zuerst die von der KI erzeugten Ergebnisse zu speichern, danach ein neues Fenster zu öffnen, die Rolle der KI in diesem neuen Fenster festzulegen und sie erst dann zum Anfechten aufzufordern.

Denn im ursprünglichen Fenster stammt jene Schlussfolgerung von eben ja von der KI selbst, und so neigt sie dazu, ihre eigene ursprüngliche Schlussfolgerung zu „verteidigen“, statt sich selbst umzustoßen.