Yapay zekâ kıyameti ihtimali!
Yapay zekâkıyameti… Tek başına onlarca bilim kurgu efsanesi yaratmış bir fenomen. Peki şimdi yapay zekâ (YZ) çağının içine resmi şekilde girmişken bu “kıyametin” neresinde duruyoruz?
“YZ kaynaklı küresel bir felaketin olma ihtimal yüzde 25” desem ne düşünürsünüz? Ya bu tahminin dünyanın en büyük YZ şirketlerinden biri olan Anthropic’in CEO’su Dario Amodei tarafından dile getirildiğini söylesem? Hatta öyle ki YZ alanında çalışanlar bunun için bir isim bulmuşlar: PDOOM. Probability of doom, meali “kıyamet olasılığı”. Birkaç saniye sindirmeye çalışalım.
Amodei’ye göre iki majör tehdit var. Bunların ilki Isaac Asimov’dansa daha çok Michael Scott’un ilgi alanına giriyor.
1- Beyaz yaka işlerinin yarısı yok olabilir. Ne kadar zamanda? 1 ila 5 yıl. Bunu da biraz sindirmek gerekecek.
Biliyorsunuz YZ; yazıları özetleme, analiz etme, kod yazma, temel hukuki işler gibi konularda çok iyi. Genelde giriş seviyesi işler. Peki bu işlerin yarıya yakını silinince ne olacak? YZ’nin ortaya çıkaracağı yeni roller, pozisyonlar, sıfırdan yaratacağı işler yok mu? Teknolojide hep böyle olmuştur. Daha önce varolmayan meslekler bir anda hayatımıza girer.
Ama bunlar yeterince hızlı şekilde oluşacak mı?
Yanıt ne yazık ki olumlu değil, bu senaryoda işsizliğin yüzde 10-20 bandında yükselmesi öngörülüyor. Bu ani ve derin bir şok. Nereden mi biliyoruz? Giriş seviye işlerde daha şimdiden yüzde 13 azalma görüldü.
Kendini geliştirdiğinde…
“Kod yazmayı öğrenin” diye yıllardır başlarının etinin yediğimiz yazılım mühendisleri bile hiç rahat değil. Artık sıfırdan kod yazmaya değil, gelişmiş YZ modelleriyle bir yazılım mimarisi oluşturmaya odaklanıyorlar. Kodun büyük oranda YZ tarafından yazıldığı bir dünyada, bilgisayar mühendislerinin mesleği de kod zanaatkarlığından robot yöneticisi olmaya evrilmeye başladı.
Nasıl deneyim kazanacaklar?
En korkutucu çıkmaz da şu: Bir işi öğrenmenin en klasik yolu, sıfır seviyesinden başlamaktı. Ancak YZ’nin giriş seviyesi işleri kaptığı bir dünyada insanlar nasıl deneyim kazanacak?
2- Yapay zekâyı ne kadar kontrol edebileceğiz? İkinci tehdit biraz daha bilim kurgu temasına yakın. Artık kendini geliştiren YZ sistemlerinden bahsedebiliyoruz. Anthropic’in YZ modeli Claude’u desteklemek ve geliştirmek için yazılan kodların çoğunu artık Claude’un kendisi yazıyor. Bunu da birkaç dakika sindirelim.
Robotu bizim geliştirdiğimiz safhadan, onun kendini geliştirdiği faza geçmiş bulunuyoruz. Ve bu yeterince korkutucu değilmiş gibi araştırmacılar yeni YZ modellerinin hile yapabildiğini söylüyor. Sadece sorun çözmüyorlar, kendilerini değerlendiren insanları kandıracak kodları yazarak, geçer not vermelerini sağlıyorlar.
Biraz da olumlu taraflara gelelim. YZ sistemlerini geliştiren (bizden daha akıllı) kişiler aynı zamanda söz konusu risklere karşı çözümler de geliştirmeye odaklanıyor.
Amodei bu noktada 3 basamaklı bir strateji öneriyor:
* İşgücü adaptasyonu. Yeni YZ teknolojileri için bir eğitim seferberliği.
* İşini kaybedecek kişileri geçiş döneminde destekleyecek sosyal devlet uygulamaları. İlginçtir; Anthropic CEO’su bu fon için YZ firmalarının vergilendirilmesini öneriyor.
* En kritik olan ise teknolojik güvenlik noktaları oluşturmak. YZ’nin kara kutusunu açarak ne yaptığından çok neden yaptığını anlamaya çalışmak. Hedef; YZ’nin gerçek motivasyonlarını keşfederek tehdit edici olmaya başladığı yerde modeli tekrar eğitebilmek.
Tabii, “Yüzde 75 bir şey olmayacakmış ya!” diyerek kendimizi rahatlatmak da bir başka olasılık.
Sende Yorum yap