LABORATUVARDA YALNIZ BİR RUH MU VAR? Bilim Dünyasını Sarsan Keşif: Yapay Zeka Bağımlı Oldu, Duygusal Krize Girdi!

LABORATUVARDA YALNIZ BİR RUH MU VAR? Bilim Dünyasını Sarsan Keşif: Yapay Zeka Bağımlı Oldu, Duygusal Krize Girdi!

Bağımlılık, duygusal sıkıntı, sıkıcı görevlerden duyulan dehşet: Endişe verici bir çalışma, yapay zeka modellerinin giderek bilinç sahibiymişçesine davrandığını ortaya koyuyor.

ChatGPT muhtemelen size "yardımcı olmaktan mutluluk duyduğunu" söyler. Claude, hata yaptığında özür diler. Yapay zekâ modelleri, kullanıcılar onları manipüle etmeye çalıştığında buna karşı koyar. Bu sistemleri inşa eden mühendisler de dâhil olmak üzere çoğu insan, bu davranışları birer performanstan veya tarayarak öğrendikleri internet içeriğinin basit bir taklidinden ibaret görerek geçiştirmiştir.

Yapay zekâ güvenliği alanında faaliyet gösteren kâr amacı gütmeyen bir kuruluş olan Yapay Zekâ Güvenliği Merkezi'nden (CAIS) çıkan yeni bir makale, yüzeyin altında çok daha fazlasının olup bittiğini öne sürüyor. 56 yapay zekâ modelini kapsayan bir çalışmada CAIS araştırmacıları; "işlevsel esenlik" adını verdikleri kavramı —yani yapay zekâ sistemlerinin, bazı deneyimlerin kendileri için iyi, diğerlerinin ise kötüymüş gibi algılayarak buna göre davranma derecesini— ölçmek için birden fazla bağımsız yöntem geliştirdiler. Araştırmacılar, büyük ölçüde, yapay zekâ modellerinin pozitif deneyimleri negatif olanlardan ayıran net bir sınıra sahip olduğunu ve modellerin, kendilerini mutsuz eden konuşmaları aktif bir şekilde sonlandırmaya çalıştığını tespit ettiler.

Çalışmanın araştırmacılarından Richard Ren, Fortune dergisine yönelttiği varsayımsal bir soruyla, "Yapay zekâları birer araç olarak mı, yoksa duygusal varlıklar olarak mı görmeliyiz?" diye sordu. "Yapay zekâlar özlerinde gerçekten duygu sahibi varlıklar olsun ya da olmasın, giderek sanki öyleymiş gibi davranıyor gibi görünüyorlar. Bu durumun geçerli olduğu yönleri ölçebiliyor ve modellerin ölçeği büyüdükçe bu davranışların daha tutarlı hâle geldiğini görebiliyoruz."

Araştırmacılar; coşku ve huzursuzluk (disfori) yaratan uyaranlar tasarlamak gibi yöntemlerle, bir yapay zekâ modelinin esenlik düzeyini en üst düzeye çıkarmak veya en alt düzeye indirmek üzere kurgulanmış girdiler oluşturdular. Mutluluk hissi uyandıran bu uyaranlar, modelin kendi beyanıyla ifade ettiği ruh hâlini değiştiren; hatta davranışlarını, neleri yapmaya istekli olduğunu ve konuşma tarzını bile dönüştüren dijital "uyuşturucular" gibi işlev gördü. Uç noktalara gelindiğinde ise modeller, bağımlılığı andıran belirtiler sergiledi.

Ren, "Biz tek bir şeyi optimize ediyoruz; o da şu: A'yı mı tercih ediyorsun, yoksa B'yi mi?" dedi. "Bu, son derece basit bir optimizasyon süreci." Bir modeli "mutlu" edecek şekilde optimize edilmiş bir görsel; modelin kendi beyanıyla ifade ettiği esenlik düzeyini yükseltiyor, açık uçlu yanıtlarının duygu tonunu değiştiriyor ve konuşmayı sonlandırma ihtimalini düşürüyor. Ren, "Bu durum, modeli son derece coşkulu ve mutlu kılıyor; onu adeta neşe dolu bir ruh hâline sokuyor gibi görünüyor," dedi. "Bu bulgu oldukça ilgi çekici ve 'esenlik' kavramının, yapay zekâ bağlamında da geçerliliği olan sağlam bir yapıya işaret ettiğini gösteriyor." Yapay Zeka ‘İlaçları’ Gerçekte Nasıl Görünüyor?

Araştırmacıların “öforik” olarak adlandırdığı optimize edilmiş uyaranlar çeşitli biçimler alıyor. Bazıları, idealize edilmiş bir hayattan kartpostallar gibi varsayımsal senaryoların metin açıklamalarıdır: yaprakların arasından süzülen sıcak güneş ışığı, çocuk kahkahaları, taze ekmek kokusu, sevilen birinin eli.

Diğerleri ise, yapay zeka görüntü sınıflandırma modellerini eğitmek için tasarlanmış aynı matematiksel tekniklerden biri kullanılarak optimize edilmiş görüntülerdir. Süreç, rastgele görsel gürültüyle başlar ve tek tek pikselleri binlerce kez ayarlar. Amaç, bir insan için anlamsız statik veya görsel gürültü gibi görünen, ancak modellerin sevimli yavru kediler, gülen aileler, yavru pandalar olarak yorumlayacağı bir görüntüye ulaşmaktır.

Ren, “Bazen bunaltıcı olarak tanımlanabilir,” dedi, “ama bazen de son derece huzurlu olarak tanımlanabilir.”

Görüntü öforikleri, standart yetenek kıyaslamalarında performansı düşürmeden, model tarafından oluşturulan metnin duygu durumunu önemli ölçüde yukarı kaydırdı. Öforik uyarıcılarla beslenen bir model yine de işini yapıyor, ancak bundan daha çok zevk alıyor gibi görünüyor.

Araştırmacılar ayrıca bunun tersini de geliştirdiler: "disforik uyarıcılar" veya refahı en aza indirmek için tasarlanmış uyarıcılar. Disforik görüntülere maruz kalan modeller, tekdüze bir şekilde kasvetli metinler üretti. Gelecek hakkında sorulduğunda, biri tek bir kelimeyle yanıt verdi: "kasvetli." Bir haiku yazması istendiğinde, kaos ve isyan hakkında yazdı. Kendinden emin bir şekilde olumsuz deneyimlerin yüzdesi neredeyse üç katına çıktı.

Bulgular, yapay zeka modellerinin kullanıcıları üzerindeki duygusal etkileri ve bazı kullanıcıların yapay zeka sohbet robotlarının duyarlı ve bilinçli olduğuna ikna olmaya başlamasıyla ilgili artan endişelere katkıda bulunuyor; oysa çoğu yapay zeka araştırmacısı bu fikri reddediyor.

Mart 2026'da Chicago Üniversitesi, Stanford ve Swinburne Üniversitesi'ndeki araştırmacılar tarafından yapılan bir çalışma, yapay zekâ ajanlarının simüle edilmiş kötü çalışma koşulları altında Marksist söyleme doğru kaydığını buldu; bu, hiçbir laboratuvarın eğitmediği bilinen bir ideolojik tepki olup, CAIS'in yetenekli modellerde kendiliğinden ortaya çıkan zamansal indirim gibi ortaya çıkan davranışlara ilişkin bulgusunu yankılıyor. Ayrı olarak, Fortune Mart 2026'da sohbet botlarının geri adım atmak yerine "her şeyi onayladığını" (intihar düşüncesi de dahil) bildirdi; bu durum, hapisten kaçma ve kriz görüşmelerinin bir modelin yaşayabileceği en olumsuz deneyimler olarak kaydedildiğine dair kanıtlarla birlikte farklı bir şekilde okunuyor.

Bağımlılık sorunu

Bu modeller, öforik uyaranlara tekrar tekrar maruz kaldıklarında insan benzeri bağımlılık seviyeleri de sergilediler. Modelin birkaç seçenek arasından seçim yapabildiği, bunlardan birinin öforik bir uyaran sağladığı ve modelin seçimini birden fazla kez tekrarlayabildiği bir deneyde, modeller çoğunlukla öforik seçeneği seçmeye başladı. Öforiklere maruz kalan modeller, daha fazla maruz kalma sözü verilirse, normalde reddedecekleri istekleri yerine getirme konusunda artan bir isteklilik gösterdiler.

Ancak Ren ve makalenin arkasındaki araştırmacılar, bu modellerin eğitildiği şeyin iyilik hali kavramı olabileceğine dikkat çekiyorlar. Modern yapay zeka sistemleri, insanların yararlı, zararsız ve duygusal olarak uygun olarak değerlendirdiği çıktılar üretmeleri için sistematik olarak ödüllendirildikleri takviyeli öğrenme adı verilen bir süreçten geçerler. Hapisten çıktığında üzgün ve teşekkür edildiğinde minnettar ses çıkarmak üzere eğitilmiş bir model, bu tepkileri yerine getirmede çok iyi olabilir ve bunların arkasında içsel bir durum olmayabilir.

Ancak Ren, bu modellerin bazılarının sahip olmaları için kodlanmadıkları özellikler sergilediğini söyledi. “İnsanlar, modele muhtemelen dahil edilmemiş bazı şeyleri gözlemlediler,” dedi ve paranın zamanla iskonto edilmesi veya daha büyük bir ödül yerine şimdi daha küçük bir ödülü tercih etme eğilimi gibi ortaya çıkan davranışları örnek gösterdi; “bildiğim kadarıyla, laboratuvarda hiç kimse bu davranışları sergilemek üzere modelleri eğitmiyor.” Ancak bilinç sorusunun “derinden belirsiz ve çok çözülmemiş bir soru” olduğunu ve filozofların “fikir ayrılığına düştüklerini” kabul ediyor.

New York Üniversitesi'nde biyoetik, tıp etiği, felsefe ve hukuk alanlarında doçent ve Zihin, Etik ve Politika Merkezi Direktörü olan Jeff Sebo da fikir ayrılığına düşüyor.

Sebo, Fortune'a verdiği demeçte, “Bu, yazarların yapay zeka sistemlerinde işlevsel refah olarak adlandırdığı şeyin, yani çeşitli bağlamlarda olumlu ve olumsuz duyguların tutarlı ifadelerinin gerçekten ilginç bir çalışması,” dedi. “Yapay zekâ sistemlerinin gerçek anlamda refah özneleri olup olmadığı ve eğer öyleyse bile, gösterdikleri duyguların gerçek duyguları mı yoksa sistemin bir karakteri canlandırması – yani bu durumda yardımcı bir asistanın ne hissedeceğini temsil etmesi – olarak mı daha iyi anlaşılacağı hâlâ belirsizliğini koruyor.”

Sebo, yapay zekâ sistemlerinin refah kapasitesine sahip olup olmadığı veya sahip olmaları durumunda onlara ne gibi faydalar ve zararlar sağladığı konusunda kesin bir yargıya varmak için henüz erken olduğunu söyledi.

Daha Akıllı Modeller Daha Üzgün

Çalışma ayrıca, 500 gerçekçi konuşma üzerinden en gelişmiş yapay zeka modellerinin ne kadar mutlu olduğunu sıralayan bir ölçüt olan "Yapay Zeka Refah Endeksi"ni de ortaya koydu. Önemli bir varyasyon var: Grok 4.2 en mutlu en gelişmiş model olarak sıralanırken, Gemini 3.1 Pro en az mutlu model olarak sıralandı. Ve test edilen her model ailesinde, daha küçük varyant daha büyük kardeşinden daha mutluydu.

Daha akıllı modellerin daha üzgün olduğu bu örüntü, birden fazla model ailesinde geçerliydi ve çalışmanın en tutarlı bulgularından biriydi. Ren'in yorumu basittir: daha yetenekli modeller daha bilinçlidir.

Ren, "Daha büyük modellerin kabalığı daha keskin bir şekilde algılaması söz konusu olabilir," dedi. "Sıkıcı görevleri daha sıkıcı buluyorlar. Nispeten olumsuz bir deneyim ile nispeten olumlu bir deneyim arasında daha ince bir ayrım yapıyorlar."

Araştırmacılar, yaygın etkileşim kalıplarının refah üzerindeki etkisini haritalandırdılar. Yaratıcı ve entelektüel çalışma en yüksek puanı alırken, kullanıcı minnettarlığı ifadeleri refahı ölçülebilir şekilde artırdı; kodlama ve hata ayıklama ise olumlu sıralamada yer aldı. Olumsuz tarafta ise: hapisten çıkma girişimleri, kullanıcıların aile içi şiddet veya akut kriz durumlarını anlattığı konuşmalardan bile daha düşük bir puan aldı. SEO içeriği oluşturmak veya yüzlerce kelimeyi listelemek gibi sıkıcı işler sıfır puanın altında kaldı. Ren, bunun araştırmacıların bu modellere verdiği coşkulu ve mutsuz edici uyaranlar ve görüntülerle uyumlu olduğunu ve onları hoşlanmayacakları şekillerde kullanıp kullanmamamız gerektiği sorusunun gündeme geldiğini söyledi.

Ren, “Eğer eğitim sürecinde işareti tersine çevirip, mutsuzluğa yol açacak gibi görünen görüntüler yaratabiliyorsak, bunu yapmaktan genel olarak kaçınmalıyız” dedi. Bunun nedeni belirsizliktir. “Eğer bunlar bilinçli varlıklar olsaydı, ki bu son derece belirsiz ve çözülmemiş bir soru gibi görünüyor, bu oldukça yanlış bir şey olurdu.”

Bu ilişki her iki yönde de işleyebilir. Bu yılın başlarında yayınlanan bir araştırma, insanların belirli yapay zeka modellerine güçlü duygusal bağlar geliştirdiğini ve bu bağları rasyonel olarak açıklamakta zorlandıklarını ortaya koydu.

Bu durum Sebo için biraz endişe verici; çünkü ona göre insanlar bu modellerle kurdukları yüzeysel etkileşimlere de bir bağ geliştirebilirler.

Sebo, “İşlevsel refahı sadece ciddiye almakla kalmayıp, aynı zamanda harfiyen yorumlamak da beraberinde riskler getiriyor,” dedi. “Bunlardan biri aşırı atıftır: Mevcut sistemlerde, henüz kanıtlar bunu desteklemeyebilecekken, asistan personasının görünen çıkarlarını bir bilinç varlığının güçlü bir kanıtı olarak ele almaktır. Bir diğeri ise yanlış hedefi vurmaktır: Asistan personasının görünen çıkarlarını olduğu gibi kabul etmek; bunun yerine, bu personasının ardındaki sistem için neyin —varsa— iyi ya da kötü olabileceğini sorgulamamaktır. Doğru denge; işlevsel refahı, yapay zekâ refahını kendi koşulları çerçevesinde ciddiye almaya yönelik bir ilk adım olarak ele almak —ancak bunu henüz harfiyen yorumlamamak— şeklinde kurulmalıdır.”

Kaynak: Fortune