Yapay zekâlı yalan dünya
Yapay zekâlı (YZ) dil modellerini seviyoruz; ama çok tartışılan bir huyları var: Halüsinasyon görüyorlar. Bazen büyük bir özgüvenle ‘atmasyon’ yanıtlar veriyorlar. Peki bu “uydurma alışkanlığı” bir hata değil, ürün özelliği olabilir mi? Bu hafta konuya biraz derinlemesine daldım. Bazı çıktılar sizi şaşırtabilir, önden söyleyeyim.
1) Halüsinasyonlar neden oluyor?
Biz YZ’nin içinde dev bir ansiklopedi olduğunu; bir şey sorduğumuzda Taş Devri çizgi filmindeki gibi bir canlının içeride oturup o ansiklopediyi karıştırdığını düşünüyoruz. Fakat öyle değil. YZ “Türkiye’nin en yüksek dağı…” dediğimizde engin coğrafya bilgisiyle yanıt vermiyor, kelime dizisininden sonraki en yüksek istatistiğe yönelerek Ağrı Dağı diyor. Ancak sağlıksız veriye dayalı bir konuda istatistik motoru boşluğa düşüyor. YZ’nin eğitiminde durmak yok, öğretmenlerinin ‘cevap ver ve akıcı ol’ emirlerini hatırlıyor ve kelimeleri kafasına göre dizmeye başlıyor. Ve acı son: Halüsinasyon gerçekleşiyor.
2) Fıtratında neden ‘Bilmiyorum’ yok?
Hatırlayın, mutfak robotları hayatımıza ilk girdiğinde ne kadar heyecanlanmıştık. Jetgiller gibi yaşayacağımızı sanıp robotun börek açmasını beklerken, tezgahta ‘güçlendirilmiş’ bir blender ile karşı karşıya bırakılmıştık. Annelerimize blender satmak zordu ama mutfak robotu peynir ekmek gibi kapışılmıştı. Bugün de YZ’den beklentimiz paralel bir aşırı iyimserlik içermekte. YZ’nin şu anki “aman evladım müşteriyi boş çevirme” temelli esnaf tipi eğitimi de bu iyimserliği besliyor. Algoritma, insanların “Bu alet aptal” diyerek aboneliklerini iptal etmesini istemiyor; “Bilmiyorum” yanıtıyla hayal kırıklığına uğratmaktansa, “Muhtemelen böyledir” ile risk almayı tercih ediyor. Bu net şekilde ticari bir seçim. Bunun insani bir tarafı olduğunu da kendimize itiraf etmemiz gerek. Bir plaza toplantısını düşünün: Patron zor bir soru sorduğunda, beyaz yakalı genelde “Bilmiyorum efendim” deyip susmak yerine laf salatası ile boşlukları doldurmayı seçer. YZ de tam olarak kovulmaktan korkan bir beyaz yakalı gibi hareket ediyor.
‘Onun işi gerçekler değil’
3) Halüsinasyon bir özellik mi?
YZ’nin yaratıcılığı ve yalancılığı aynı mekanizmadan besleniyor. Onu şiir yazabilir, kod üretebilir, şaka ve felsefe yapabilir kılan şey; kelimeler arasında esnek, olasılıklı ve gevşek bağlar kurabilmesi. Onun işi gerçekleri bilmek değil, cümleleri anlamlı bir hikayeye dönüştürmek. Mühendislerin “istatistiksel sapma özgürlüğünü” sıfırladığı bir senaryo, YZ’yi bir Wikipedia arama çubuğuna dönüştürebilir. O zaman da üretken değil getiren bir yapay zekâdan bahsetmiş oluruz. Bir başka deyişle; halüsinasyon YZ’nin yan etkisi gibi biraz. Onu reddettiğimizde ilacın kendisini, akıcı ve yaratıcı bir YZ’yi de dışlıyoruz. Evet, algoritma ve teknoloji geliştikçe “okuduğunu yanlış anlama” ve “yanlış veriye güvenme” gibi halüsinasyon nedenleri azalabilir ama boşluk doldurma ve yaranma dürtüsünün tamamen yok olması çok zor.
4) Yalandan nasıl korunuruz?
Her YZ modelini bir dilim peynir gibi, üzerindeki delikleri de halüsinasyon ihtimali olarak düşünün. Dilimleri üst üste koyduğumuzda birinin deliği diğerinin dolu kısmına denk gelir. Kritik durumlarda aynı soruyu Gemini, ChatGPT ve Claude gibi farklı modellere yöneltip halüsinasyon riskini minimize edebilirsiniz. Ayrıca çapraz sorguya ek olarak YZ modellerine kendi yanıtlarını denetleme komutu verebilirsiniz. YZ’ler “cevap üretirken” heyecanlı olabilir ama “kendi cevabını denetlerken” şaşırtıcı derecede titizler.
Sende Yorum yap