KORKUNÇ GERÇEK ORTAYA ÇIKTI: Yapay Zekâ Asla "Uyanamayacak" mı? İşte Bilim Dünyasını Sarsan O Teori!

KORKUNÇ GERÇEK ORTAYA ÇIKTI: Yapay Zekâ Asla "Uyanamayacak" mı? İşte Bilim Dünyasını Sarsan O Teori!

Yapay zekânın, gelecekte insanlığı geride bırakarak kendi kararlarını alan, düşünen ve hatta dünyayı ele geçirmeye çalışan "bilinçli birer varlığa" dönüşeceği korkusu, onlarca yıldır hem bilim kurgu filmlerinin hem de teknoloji dünyasının en büyük kabusu olmaya devam ediyor. Eski İngiltere Başbakanı Boris Johnson gibi politikacılardan popüler kültür figürlerine kadar pek çok kişi makinelerin bir gün kontrole el koyacağını savunurken, yeni bir bilimsel araştırma bu ezberleri tamamen bozuyor.

Araştırmacı ve yazar Jeff Stibel’in Frontiers in Neuroscience dergisinde yayımlanan devrim niteliğindeki çalışması, yapay zekânın günümüzdeki yapısıyla asla bilinç kazanamayacağını; çünkü bunun arkasında yatan temel mekanizmanın yanlış anlaşıldığını gözler önüne seriyor.

1. Biliş ve Bilinç Aynı Şey Değildir

Toplumda en sık düşülen yanılgı, yapay zekânın zekâsı (bilişi) arttıkça kendiliğinden bir bilince de sahip olacağı varsayımıdır. Stibel’e göre bu düşünce temelden yanlıştır:

• Bilişin Görevi: Dış dünyayı doğru kavramak, sinyalleri sınıflandırmak, çevreyi modellemek ve gelecekte ne olacağını öngörmektir. Bakteriler gibi sinir sistemi olmayan canlılar bile glikoz yoğunluğunu takip ederek basit bir bilişsel süreç sergileyebilir.

• Bilincin Görevi: Bilişten tamamen bağımsız olarak evrilen bilinç, karmaşık hesaplamalar yapmak için değil; varlığı tehlikede olan bir sistemin içsel çatışmalarını yönetmek için ortaya çıkmıştır.

2. Kontrolün Üç Düzeyi ve Bilincin Sırrı

Stibel, bir organizmanın hayatta kalma mücadelesinde kullandığı kontrol mekanizmalarını üç aşamaya ayırır. Bunlardan ilki olan proto-kontrol, bakterilerin hücre zarını koruması gibi basit bir sınır çizme işvidir. İkinci aşama olan meta-kontrol, açlık veya yorgunluk gibi birbiriyle yarışan içsel talepleri yerel düzeyde çözer.

Ancak bilincin doğduğu yer üçüncü aşamadır: Uzlaşı kontrolü (settlement control). Bu aşamada çatışmalar tüm sistemi kapsayacak şekilde aynı anda çözülür ve varılan sonuç doğrudan organizmanın hayatta kalmasına bağlanır. Stibel’in belirttiği gibi: “His, uygulamanın ta kendisidir.” Bilinç, bu uzlaşı sürecinin ta kendisidir.

3. Yapay Zekâ Neden Bilinç Kazanamaz?

Günümüzdeki ChatGPT veya Gemini gibi büyük dil modelleri (LLM); insan satranç oyuncularını yenebilseler veya inanılmaz metinler üretebilseler bile kendi hedeflerini belirleyemezler. Onlar yalnızca insanları tarafından kodlanan kurallar ve hedefler doğrultusunda çalışır.

Yapay zekâ sistemlerinin;

• Hayatta kalma kaygısı yoktur,

• Enerji bulmak veya beslenmek gibi biyolojik zorunlulukları bulunmaz,

• Kendi varlıklarını sürdürme yönünde kişisel bir çıkarları (öz-çıkarları) yoktur.

Tüm ihtiyaçları insanlar tarafından eksiksiz karşılanan dijital varlıkların, evrimsel veya işlevsel bir baskı olmaksızın bilinç geliştirmesi mantıken ve doğanın kanunları gereği imkansızdır.

4. Yapay Zekâ Asla Bilinçlenemez mi?

Stibel, mühendislik ürünü olmanın yapay zekâyı peşinen bilinçten mahrum bırakmadığını ifade ediyor. Eğer bir yapay zekâ ajanı;

1. Gerçek kaynak kısıtlamaları altında çalışmak zorundaysa,

2. Kendi faaliyetlerinin dayandığı koşulları bağımsız olarak sürdürmek çıkarı/zorunluluğu varsa,

3. İşlevsel bir benlik modeli kullanıyorsa ve aldığı kararlar gelecekteki varlığını doğrudan etkiliyorsa,

teorik olarak bilinç geliştirmesi mümkündür. Ancak insan gözetiminde, sınırsız enerji ve sunucu kaynaklarıyla beslenen mevcut yapay zekâ modellerinde bu koşulların hiçbiri mevcut değildir.

5. Bu Teori Nasıl Test Edilebilir?

Stibel, teorisinin doğrulanabilmesi için yapay zekâ ve bilişsel bilimler alanında uygulanabilecek 6 temel test öneriyor:

• Duyusal Girdi ve Çatışma Testleri: Gecikme veya çatışma değişkenleri değiştirilerek, yarışan taleplerin bilinçli katılımı tetikleyip tetiklemediğine bakılması.

• İkili Görev Yükleri: Performansla ilişkili olarak bilinçli katılımın artıp azalmasının ölçülmesi.

• Paralel İşleyiş Ayrımı: Dikkat, bellek kodlaması ve motor performansın birlikte mi yoksa ayrı ayrı mı değiştiğinin kontrol edilmesi.

• Koordinasyon Testleri: Bilincin, bu işlevleri bir arada tutma görevini üstlenip üstlenmediğini görmek için bellek ve dikkat koordinasyonunun bozulması.

• Öz-Farkındalık Belirtileri: Merkezi sinir sistemi olmasa bile esnek davranışlar sergileyen kafadanbacaklılardaki gibi öz-farkındalık emarelerinin aranması.

• Baskı Altında Gelişim Testi: Yapay zekânın gerçek bir baskı altında bilinç geliştirip geliştiremeyeceğinin veya yalnızca programlandığı gibi tepki vermeye devam edip etmeyeceğinin sorgulanması.

Sonuç

Boris Johnson ve benzeri felaket senaryosu yazarları derin bir " "oh" çekebilirler. Bilimsel veriler gösteriyor ki; Terminator veya Matrix filmlerindeki gibi "uyanıp" dünyayı ele geçiren makineler yakın gelecekte gerçeğe dönüşmeyecek. Yapay zekâ ne kadar akıllı olursa olsun, kendi varlığını koruma zorunluluğu ve hayatta kalma mücadelesiyle (evrimsel veya işlevsel bir baskıyla) yüzleşmediği sürece sadece sofistike bir hesap makinesi olmaktan öteye gidemeyecektir.

Kaynak: PM