Dlaczego modele LLM halucynują? Uczeń, który nie może oddać pustej kartki

Dlaczego modele LLM halucynują?

Moim zdaniem model LLM można sobie wyobrazić jako takiego ucznia: przeczytał bardzo, bardzo wiele książek, ale jego pamięć została skompresowana i sam nie wie, które fragmenty właściwie już się zamazały; co gorsza, postawiono mu jeszcze wymóg — na egzaminie „nie wolno oddać pustej kartki”.

Jego mocną stroną nie jest „wiedza o tym, czy wie”

Prawdziwą mocną stroną tego ucznia nie jest ocena, czy „naprawdę wie”, tylko płynne sklejanie słów tak, by odpowiedź wyglądała na sensowną odpowiedź.

Dlatego gdy same dane są bardzo mgliste, źródła pomieszane albo już pierwszy krok wnioskowania jest błędny, dalszy ciąg może — dla zachowania spójnego tonu — wychodzić coraz bardziej kompletny i coraz pewniejszy siebie w błędzie.

Rzecz w tym, by ograniczyć mu pole do „zmyślonego łatania”

Dlatego przy korzystaniu z AI ważne jest nie tylko rzucenie jednego zdania: „znajdź mi odpowiedź”, ale znalezienie sposobu, by ograniczyć mu pole do „zmyślonego łatania”.

Lepsze podejście jest takie:

• ustrukturyzuj pytanie, wypisz wyraźnie tło, ograniczenia i format wyjścia;
• gdy danych jest za dużo, wprowadzaj je partiami, żeby przetwarzał je krok po kroku;
• a co ważniejsze, podaj poprawne źródła i zażądaj, by „odpowiadał na podstawie źródeł”, a miejsca niepewne oznaczał.

Traktuj go jak asystenta, który potrzebuje jasno postawionego zadania

Inna metafora: traktuj AI jak asystenta, „któremu trzeba dać jasne zadanie, materiały źródłowe i zakres odpowiedzi”.

Im luźniej zadasz pytanie, tym łatwiej mu zmyślać i łatać; im wyraźniej zakreślisz zakres, tym większa szansa, że naprawdę pomoże.

Innymi słowy, jeśli pytający potrafi zaprojektować pytanie raczej jak „zadanie z luką” niż jak bezbrzeżne „pytanie problemowe”, to odpowiedzi AI będą zwykle bardziej zwięzłe i bliższe dokładniejszemu wynikowi.