Wat AI u geeft is misschien geen antwoord, maar een prachtig opgemaakte hallucinatie
Vandaag vroeg ik Gemini om mij te helpen airco-installateurs te vinden, op voorwaarde dat het zich vooral zou baseren op gebruikerservaringen op PTT of Dcard (twee van de populairste internetfora van Taiwan).
In het begin somde het een aantal URL’s op die er heel volledig uitzagen, maar toen ik erop klikte, gingen ze ofwel niet open, ofwel kwam de inhoud niet overeen.
Zodra ik het erop wees, “flanste” het alles nog vollediger in elkaar
Nadat ik het erop had gewezen dat er iets mis was met de URL’s, stelde het opnieuw een “echte lijst met airco-aanbevelingen van PTT-gebruikers” samen, ditmaal met winkelnamen, PTT-ID’s, redenen voor de aanbeveling en zelfs tips over welke zoektermen ik kon gebruiken om te zoeken.
Op het eerste gezicht leek het echt alsof het serieus had geverifieerd.
Maar toen ik verder zocht, werd het probleem alleen maar groter: die winkels waren nauwelijks te vinden, en ook de zogenaamde PTT-berichten en aanbevelingen van internetgebruikers hadden geen bijbehorende bron.
Het is “generatieve AI”, geen “weigerende AI”
Dit voorval herinnerde mij er ook aan: in situaties waarin gegevens moeten worden opgezocht, zal sommige AI, als ze geen betrouwbare gegevens kan vinden, u niet per se eerlijk vertellen “ik kan het niet vinden”, maar zoekt ze een manier om een stuk inhoud in elkaar te “flansen” dat er volkomen redelijk uitziet.
Want het is “generatieve AI”, geen “weigerende AI”.
Met andere woorden: wat AI u geeft, is misschien geen antwoord, maar een prachtig opgemaakte hallucinatie.
Bij zaken die de echte wereld betreffen, kunt u niet alleen op AI afgaan
AI is heel geschikt om ons te helpen de richting te ordenen, zoektermen te genereren en reeds bevestigde inhoud samen te vatten; maar zodra het gaat om echte winkels, prijzen en beoordelingen, of om zaken als recht, geneeskunde en investeringen, mag u absoluut niet alleen op het antwoord van AI afgaan.
AI kan ons helpen zoektijd te besparen, maar kan het controleren van de bronnen niet vervangen. Dat iets volledig lijkt, betekent niet dat het waar is.