Ce vă oferă AI poate să nu fie un răspuns, ci o halucinație cu o formatare impecabilă
Astăzi i-am cerut lui Gemini să mă ajute să găsesc un instalator de aparate de aer condiționat, cu condiția să se bazeze în principal pe experiențele utilizatorilor de pe PTT sau Dcard (două dintre cele mai populare forumuri online din Taiwan).
La început, a enumerat câteva adrese URL care păreau destul de complete, dar când am dat clic pe ele, fie nu se deschideau, fie conținutul nu se potrivea.
De îndată ce i-am atras atenția, a „înjghebat” o listă și mai completă
După ce i-am semnalat că adresele URL au o problemă, a reorganizat o „listă reală de recomandări de aer condiționat de la utilizatorii PTT”, care includea nume de magazine, ID-uri PTT, motive de recomandare și chiar m-a învățat ce cuvinte-cheie aș putea folosi pentru căutare.
La prima vedere, chiar părea că verificase totul cu seriozitate.
Dar cu cât am căutat mai departe, cu atât problema s-a dovedit mai mare: magazinele respective aproape că nu se puteau găsi nicăieri, iar așa-zisele comentarii de pe PTT și recomandările utilizatorilor nu aveau nicio sursă corespunzătoare.
Este „AI generativ”, nu „AI care refuză”
Acest lucru mi-a mai amintit un lucru: în situațiile în care e nevoie de căutarea unor date, unele sisteme de AI, dacă nu găsesc informații de încredere, nu recunosc neapărat sincer „nu am găsit”, ci încearcă să „înjghebe” un conținut care pare destul de rezonabil.
Pentru că este „AI generativ”, nu „AI care refuză”.
Cu alte cuvinte, ceea ce vă oferă AI poate să nu fie un răspuns, ci o halucinație cu o formatare impecabilă.
Când e vorba de ceva din lumea reală, nu vă bazați doar pe AI
AI este foarte potrivit pentru a ne ajuta să organizăm direcția, să generăm cuvinte-cheie de căutare, să sintetizăm conținut deja confirmat; dar de îndată ce e vorba de comercianți reali, prețuri, recenzii, sau de lucruri precum dreptul, medicina ori investițiile, nu trebuie în niciun caz să vă bazați doar pe răspunsul AI.
AI ne poate ajuta să economisim timp la căutare, dar nu poate înlocui verificarea surselor. Faptul că pare complet nu înseamnă că este adevărat.