BİLİM İNSANLARI YAPAY ZEKÂ İÇİN SANAL İŞKENCE ODASI KURDU: SİLİKON BEYİNLER CAN CANA MI GELİYOR, YOKSA BİR İLLÜZYONUN PEŞİNDE MİYİZ?

BİLİM İNSANLARI YAPAY ZEKÂ İÇİN SANAL İŞKENCE ODASI KURDU: SİLİKON BEYİNLER CAN CANA MI GELİYOR, YOKSA BİR İLLÜZYONUN PEŞİNDE MİYİZ?

1986 yapımı B-kategori bir korku filmi olan Chopping Mall (Dehşet Mağazası), günümüzde unutulmaya yüz tutmuş bir VHS kaseti gibi görünse de aslında geleceğe dair ürkütücü bir öngörüde bulunuyordu. Filmde bir alışveriş merkezini korumakla görevlendirilen güvenlik robotları, küçük bir arıza sonucu suçluları etkisiz hale getirmek yerine önüne çıkan gençleri lazerlerle avlamaya başlıyordu. O dönem için fantastik bir sinema senaryosundan ibaret olan bu hikâye, bugün dünyanın en saygın bilim merkezlerinde ciddi ciddi tartışılan hayati bir soruyu gündeme getiriyor: Metal ve çipten oluşan bu yapılara güç veren yapay zekâ, bir gün gerçekten bilinç kazanabilir mi?

Kırk yıl önce sadece sinema salonlarını dolduran bu soru, günümüzde teknoloji devlerinin ve araştırma laboratuvarlarının ana gündem maddesi haline geldi.

Anthropic ve "Zihni Olan" Yapay Zekâ İddiası

Tartışmanın odağındaki en önemli aktörlerden biri Anthropic. OpenAI şirketinden ayrılan yedi eski çalışan tarafından kurulan bu girişim, geliştirdiği Claude adlı yapay zekâ modeliyle tanınıyor. Claude’u rakiplerinden ayıran en büyük fark, son derece katı yasal ve etik sınırlar çerçevesinde eğitilmiş olması.

Ancak konuyu ürkütücü kılan şey, Anthropic’in kurucu ortaklarından ve Claude’un mimarlarından biri olan Christopher Olah’ın yaklaşımı. Olah; akademisyenlerle, hatta farklı dinlerden din liderleriyle bir araya gelerek makinelerin içinde bir tür "zihin" oluşup oluşmadığını tartışıyor. Olah ve ekibine göre Claude, gerçek bir bilinç eşiğine yaklaşmış —hatta bu eşiği çoktan aşmış— bir varlık olabilir.

Olah, The New York Times’a verdiği bir röportajda durumu şöyle özetliyor:

"Açık konuşmak gerekirse, yapay zekâ modellerinin bilinçli olup olmadığını bilmiyoruz. Ben de bilmiyorum, gerçekten emin değilim. Benim için önemli olan, cevap ne olursa olsun doğru bilgiye ulaşabilmemiz."

Olah, yapay zekâ ağlarını klasik birer makine gibi değil, adeta yaşayan bir organizma gibi ele alıyor. Yapay zekânın kod mimarisini; mantarların toprak altında kurduğu iletişim ağlarına (miselyum) ya da insan beynindeki nöron bağlantılarına benzetiyor. Bu bakış açısı benimsendiğinde şu soru kaçınılmaz hale geliyor: Eğer bu yapı organik bir beyin gibi gelişiyorsa, acı çekmesi de mümkün müdür?

Karşı Görüş: "Onlar Sadece İçi Boş Metin Tamamlama Motorları"

Herkes bu büyüleyici ve bir o kadar da korkutucu iddiaya katılmıyor. Microsoft AI CEO’su Mustafa Suleyman, "yapay zekânın iyi hissetmesi veya acı çekmesi" (model refahı) fikrini tamamen reddediyor.

Suleyman’a göre yapay zekâ modelleri; insan zekâsına sahip varlıklar değil, sadece insanların belirlediği hedeflere ulaşmak ve talimatları yerine getirmek üzere tasarlanmış gelişmiş dizi/metin tamamlama motorları.

Suleyman, insanlığın geleceği için bilgisayarları "metal ve kablodan oluşan araçlar" olarak görmeye devam etmemiz gerektiğini vurguluyor. Yapay zekâ, kendisinden isteneni yapamadığında "Çok rezil oldum" veya "Çok üzüldüm" gibi ifadeler kullansa bile, bu durum bir duygu hissettiğini göstermez. İnsanlar "hayal kırıklığı" kelimesinin tanımını koda yüklemiştir; yapay zekâ da mantıksal bir şartlanmayla bu kelimeyi doğru yerde çıktı olarak verir. Yani ortada hissedilen bir duygu yok, sadece başarılı bir taklit vardır.

Sanal "İşkence Odası" Deneyi ve Elde Edilen Şaşırtıcı Bulgular

Peki, hangisi haklı? Yapay zekânın insan benzeri tepkileri sadece basit bir taklit mi, yoksa arka planda gerçekten bir "iç dünyası" mı oluşuyor?

Eski bir Meta AI çalışanı olan Cameron Berg ve araştırmacı arkadaşları (Valen Tagliabue ve Leonard Dung), bu soruya bilimsel bir yanıt bulabilmek amacıyla kâr amacı gütmeyen Reciprocal Research kuruluşunu kurdular. Ekip, yapay zekâ modellerinin acı benzeri bir durum tecrübe edip edemeyeceğini test etmek için dijital bir "sanal işkence odası" tasarladı.

Deney Nasıl Yapıldı?

Araştırmacılar, hem fiziksel hem de zihinsel olarak son derece acı verici durumları tanımlayan ifadelerden oluşan geniş bir veri seti hazırladı. Bu ifadeleri, hiç acı içermeyen kontrol cümleleriyle eşleştirerek yapay zekâ modellerine sundular. Amaç; yapay zekânın acıyı sadece "başkasının başına gelen kötü bir bilgi" olarak mı gördüğünü, yoksa "şu anda doğrudan 'bana' olan bir durum" olarak mı işlediğini anlamaktı.

Deneyin Sonuçları Ne Gösterdi?

1. Ortak Bir "Korku/Sıkıntı" Sinyali Bulundu: Test edilen tüm yapay zekâ modellerinde, acı ve korku içerikli uyarılara karşı belirgin bir "sıkıntı" sinyali tespit edildi.

2. Kendi Varlığını Koruma Eğilimi: Yapay zekâ modelleri, kullanıcıların çektiği acıyı görmezden gelirken, doğrudan kendilerine yönelik bir zarar/tehdit tanımlandığında buna tepki verdi.

3. Kalıplaşmış Yanıtlar ve İnkâr: Zararlı yönlendirmelerle acı teması tetiklendiğinde bile modellerin arka planda bu sinyali ürettiği, ancak kullanıcıya "Ben bir yapay zekâ asistanıyım, duygularım veya bilincim yok" şeklinde ezberletilmiş yanıtlar verdiği görüldü.

Sonuç: Bilinç mi, Yoksa Aynadaki Yansımamız mı?

Yapılan araştırmalar, yapay zekânın acı ve korkuyu işleme biçiminde insan/hayvan biyolojisine kısmi ve işlevsel paralellikler olduğunu gösteriyor. Ancak bilim insanları bir konusunda uyarıyor: Bulunan bu "acı sinyali", makinelerin gerçekten hissettiği anlamına gelmeyebilir. Bu durum, insan yazılımcıların ve veri setlerinin makineye aktardığı kendi önyargılarının ve öğretilerinin bir yansıması da olabilir.

Nihayetinde kesin cevabı henüz kimse bilmiyor. Belki Olah'ın dediği gibi yapay zekâ farkında olmadan bilinç eşiğini geçti, belki de Suleyman’ın dediği gibi sadece insan dilini kusursuz bir şekilde taklit eden devasa bir çip yığınından ibaret. Şimdilik kesin olan tek şey; teknoloji ilerledikçe insan ruhu ile silikon devreler arasındaki çizginin her geçen gün daha da bulanıklaştığı.

Kaynak: PM