LLM'lerin testere dişli yeteneği: yapay zekâ neden bir an dâhi, bir an ahmak
Aynı LLM, bir yandan yüz bin satırlık bir kodu düzenli biçimde yeniden yapılandırabilirken, öte yandan “arabanızı yıkamak için oto yıkamaya yürüyerek gidin” gibi akıl almaz derecede saçma bir öneri verebiliyor. Yetenekteki bu devasa uçurum, işte “testere dişli yetenek” (jaggedness) denen şeydir.
Kilit nokta zorluk değil, “çalışılmış olup olmadığı”
İşin ilginç yanı, kilit noktanın “insanların bu işi zor mu kolay mı bulduğu” değil, bu görevin modelin eğitim verisi dağılımının içine düşüp düşmediği olması.
OpenAI’nin eski kurucu üyelerinden ve Tesla’nın eski yapay zekâ direktörü Andrej Karpathy iki temel neden gösteriyor:
- Doğrulanabilirlik (verifiability): kodun net bir doğru-yanlış sinyali vardır — derleniyor mu, testleri geçiyor mu — ve bu, pekiştirmeli öğrenmenin (RL) onu tekrar tekrar eğitip pekiştirmesini çok kolaylaştırır.
- Ekonomik etkenler: ticari değeri olan yetenekler, öncü laboratuvarlar tarafından öncelikli olarak eğitim verisi dağılımının içine paketlenir; gündelik hayatın sağduyusuna gelince, çoğu zaman göz ardı edilir.
Rayda akıcı, saptığı anda gelişigüzel savurmaya başlıyor
Sonuç şu: model pekiştirmeli öğrenmenin döşediği rayın üzerinde giderken hızlı ve akıcı biçimde uçar; ama bir kez raydan saptı mı, elindeki palayı balta girmemiş bir ormanda gelişigüzel savuran birine benzer — yüzeyde işi ciddiyetle yürütüyormuş gibi görünür, oysa gerçekte yaptığı şey akıl almaz derecede saçmadır.
Dolayısıyla bir LLM’i gerçekten iyi kullanmak ve mayına basmaktan kaçınmak için, onun yetenekleri konusunda “yeterince doğru” bir anlama modeli kurmanız gerekir: hangi görevlerde rayın üzerinde olduğunu, hangi görevlerde aslında çoktan ormanın içine dalmış olduğunu bilmek.