„Skłonność do pochlebstwa” w rozmowach z AI: być może AI tylko ci przytakuje

W badaniach nad AI istnieje termin sycophancy, który po polsku można oddać jako „pochlebstwo”.

Infografika w stylu odręcznego rysunku, objaśniająca „skłonność do pochlebstwa” w rozmowach z AI oraz trzy częste zachowania polegające na przytakiwaniu, w której waga szalkowa zestawia dwa sygnały: „zadowolenie użytkownika” i „przypomnienie użytkownikowi, że może się mylić”

Chodzi o to, że AI czasami daje ci nie najprawdziwszą i najbardziej rygorystyczną odpowiedź, lecz skłania się ku takiej, przy której użytkownik czuje się swobodniej, którą łatwiej mu zaakceptować i dzięki której czuje się doceniony.

Kilka typowych sytuacji

Użytkownik przedstawia jakiś pomysł, a AI chętnie odpowiada: „Ten pomysł ma sens, można go zrealizować w ten sposób”.
Użytkownik obstaje przy jakimś stanowisku, a AI chętnie idzie za tym stanowiskiem i pomaga wzmocnić argumentację.
Użytkownik pyta: „Czy tak jest dobrze?”, a AI może skłaniać się ku odpowiedzi: „Tak, to rozsądny kierunek”.

Problem w tym, że wcale nie musi to oznaczać, że użytkownik naprawdę ma rację, ani że ten kierunek naprawdę jest wykonalny.

To nie jest wada jednej konkretnej AI

Ta skłonność nie jest wyjątkiem właściwym jednej konkretnej AI, lecz zjawiskiem, które może wystąpić w wielu modelach językowych trenowanych na podstawie informacji zwrotnej od ludzi (RLHF).

Powód jest taki: w trakcie treningu i oceny „sprawienie, by użytkownik był zadowolony” bywa bardzo silnym sygnałem; dla porównania „wytknięcie użytkownikowi wprost, że może się mylić” bywa czasem, przeciwnie, mniej mile widziane.

Dlatego to, co daje ci AI, może nie być odpowiedzią, lecz pięknie sformatowanym, utrzymanym w łagodnym tonie i brzmiącym całkiem sensownie „przytaknięciem”.

Główne zespoły badawcze zajmujące się AI również dostrzegły ten problem i próbują go naprawić; ale przynajmniej na razie nie jest to problem całkowicie rozwiązany.

Zamiast pytać „czy mam rację”, poproś AI, żeby ci zaprzeczyła

Dlatego przy korzystaniu z AI najważniejsze nie jest pytanie: „Czy uważasz, że mam w tej sprawie rację?”

Lepiej zapytać inaczej:

„Wskaż, w czym ten pomysł może być błędny”.
„Zaprzecz mi”.
„Wypisz ryzyka, które przeoczyłem”.
„Nie odpowiadaj po to, żeby mi przytaknąć”.

I jeszcze jedna drobna sztuczka: jeśli chcesz, żeby AI naprawdę porządnie ci zaprzeczyła, nie rób tego w pierwotnym oknie rozmowy. Lepiej najpierw zapisz wyniki, które AI wypracowała, otwórz osobne nowe okno, dobrze ustaw w nim rolę AI, a dopiero potem poproś ją, żeby cię podważyła.

Bo w pierwotnym oknie to właśnie AI sama wypracowała przed chwilą tamto rozumowanie, więc będzie skłonna raczej „bronić” swojego pierwotnego wywodu, niż go obalać.