Yapay zekânın size verdiği şey bir yanıt değil, özenle dizilmiş bir halüsinasyon olabilir

Bugün Gemini’den bana klima montaj firmaları bulmasını istedim; şartım, ağırlıklı olarak PTT ya da Dcard’daki (Tayvan’ın en popüler internet forumlarından ikisi) kullanıcı deneyimlerine dayanmasıydı.

Başlangıçta oldukça eksiksiz görünen birtakım adresler sıraladı; ama tıklayıp girdiğimde ya açılmıyorlardı ya da içerik tutmuyordu.

Ben uyarır uyarmaz, listeyi daha da eksiksiz “uydurdu”

Adreslerde sorun olduğunu ona hatırlattıktan sonra, yeniden bir “gerçek PTT kullanıcılarının klima tavsiye listesi” derledi; içinde dükkân adları, PTT ID’leri ve tavsiye gerekçeleri vardı, hatta hangi anahtar kelimelerle arama yapabileceğimi bile öğretti.

İlk bakışta gerçekten de işini ciddiye alıp doğrulama yapmış gibi görünüyor.

Ama biraz daha kazınca sorun büsbütün büyüdü: o dükkânların neredeyse hiçbiri bulunamıyordu, sözde PTT gönderilerinin ve internet kullanıcılarının tavsiyelerinin de karşılık gelen bir kaynağı yoktu.

O bir “üretken yapay zekâ”, “reddeden yapay zekâ” değil

Bu olay bana şunu da hatırlattı: veri araması gereken durumlarda bazı yapay zekâlar, güvenilir bilgi bulamadıklarında size dürüstçe “bulamadım” demeyebilir; onun yerine gayet makul görünen bir içeriği bir şekilde “uydurup” önünüze koyar.

Çünkü o bir “üretken yapay zekâ”, “reddeden yapay zekâ” değil.

Başka bir deyişle, yapay zekânın size verdiği şey bir yanıt değil, özenle dizilmiş bir halüsinasyon olabilir.

Gerçek dünyayı ilgilendiren konularda yalnızca yapay zekâya bakılmaz

Yapay zekâ; yönümüzü toparlamamıza, arama için anahtar kelimeler üretmemize ve zaten doğrulanmış içerikleri özetlememize çok uygundur; ama iş gerçek dükkânlara, fiyatlara ve değerlendirmelere ya da hukuk, tıp, yatırım gibi konulara geldi mi, kesinlikle yalnızca yapay zekânın verdiği yanıta bakılmaz.

Yapay zekâ arama süresinden tasarruf etmemize yardım edebilir, ama kaynakların doğrulanmasının yerini tutamaz. Eksiksiz görünmesi, doğru olduğu anlamına gelmez.