Anthropic, Claude yapay zeka modeliyle ilgili endişe verici gelişmelere dikkat çekiyor

Anthropic, Claude yapay zeka modeliyle ilgili endişe verici gelişmelere dikkat çekiyor

Kendi kodunu yazan yapay zeka Claude ile tanışın

Muhtemelen sohbet robotlarını duymuşsunuzdur; ancak Claude adındaki bir tanesi, artık onu geliştiren şirket olan Anthropic bünyesinde kullanılan kodların büyük bir kısmını yazıyor. Claude Code'un şirketin mühendislik çalışmalarında daha merkezi bir konuma gelmesiyle birlikte bu değişim hızla gerçekleşti.

Claude Code Şubat 2025'te araştırma önizlemesi olarak kullanıma sunulmadan önce, Claude, Anthropic'in kod tabanına entegre edilen kodların yalnızca çok küçük bir kısmını (tek haneli düşük bir yüzdeyi) yazıyordu. Mayıs 2026'ya gelindiğinde Anthropic, insan mühendislerin çalışmaları yönlendirmeye, incelemeye ve onaylamaya devam etmesine rağmen bu oranın %80'in üzerine çıktığını açıkladı.

Mühendisler ışık hızında kod üretiyor

Claude'un kod yazma konusundaki rolü, Anthropic içindeki mühendislik çalışmalarının hızını değiştirdi. Şirket, ortalama bir mühendisin 2026'nın ikinci çeyreğinde, 2024 yılına kıyasla günde 8 kat daha fazla kodu sisteme entegre ettiğini belirtiyor.

Anthropic, kod satırı sayısının kusurlu bir ölçüt olduğu ve gerçek verimlilik artışını olduğundan fazla gösteriyor olabileceği konusunda uyarıyor. Bu çekinceye rağmen şirket, verilerin; mühendislerin inceleyebildiği, yönlendirebildiği ve sisteme entegre edebildiği kod miktarında büyük bir hızlanma olduğunu gösterdiğini ifade ediyor.

Kendi kendini geliştirmenin ardındaki asıl endişe

İşte Anthropic'i asıl endişelendiren durum: Eğer bir yapay zeka kodu son derece iyi bir şekilde yazıp geliştirebiliyorsa, zamanla çok daha az insan müdahalesiyle kendisinden daha yetenekli bir halef sistemin oluşturulmasına yardımcı olabilir. Bu kavram, "özyinelemeli kendi kendini geliştirme" (recursive self-improvement) olarak adlandırılıyor.

Anthropic'in kurucu ortağı Jack Clark, 2028'in sonuna kadar bir yapay zeka sisteminin tamamen otonom bir şekilde kendisinin daha iyi bir versiyonunu oluşturabilme ihtimalini %60'ın üzerinde gördüğünü belirtti.

Claude aslında ne kadar akıllandı?

Anthropic, cevaba giden yolun tam olarak belirtilmediği zorlu ve ucu açık mühendislik görevlerinde Claude'un performansını takip ediyor. Şirket, Mayıs 2026'da Claude'un bu görevlerdeki başarı oranının %76'ya ulaştığını açıkladı.

Anthropic'in şirket içi verilerine göre bu, altı ay içinde 50 puanlık bir artış anlamına geliyordu. Bir örnekte, rutin bir güncelleme on binlerce eğitim işleminin çökmesine yol açtığında, bir mühendis Claude'a metin tabanlı bağlam bilgisi ve küme (cluster) erişimi sağladı; Claude da yaklaşık iki saat içinde hatayı tespit edip izole etti, çökme durumunu yeniden oluşturdu ve çözümün işe yaradığını doğruladı.

Az bilinen bir gerçek: Rutin bir güncelleme on binlerce eğitim işleminin çökmesine neden olduğunda, bir mühendis Claude'a metin tabanlı bağlam bilgisi ve küme erişimi vermişti. Claude, yaklaşık iki saat içinde gözden kaçan bir hatayı izole etti, çökme durumunu yeniden oluşturdu ve çözümün doğruluğunu teyit etti. Normal şartlarda bu süreç iki ila üç gün sürerdi.

Zamanlama ilginç, değil mi?

Anthropic şu anda yapay zeka sektöründen, risklerin çok hızlı artması durumunda en ileri düzey yapay zeka geliştirme çalışmalarına yönelik koordineli ve doğrulanabilir bir ara verilmesini değerlendirmesini istiyor. Şirket, böyle bir duraklamanın ancak diğer önde gelen laboratuvarların da faaliyetlerini doğrulanabilir bir şekilde yavaşlatması halinde yararlı olacağını belirtiyor.

Bu zamanlama dikkatleri üzerine çekti; zira Anthropic, uyarısını yayınlamadan kısa bir süre önce, 1 Haziran'da ABD'de halka arz için gizli bir başvuruda bulunmuştu. Şirket ayrıca yakın zamanda, yatırım sonrası değerlemesi 965 milyar dolar olacak şekilde fon sağlamıştı; bu rakam, OpenAI'ın açıklanan son özel piyasa değerlemesinin de üzerindeydi.

Az bilinen bir gerçek: Eğer sektör şu anda frene basacak olsaydı, bu durum Anthropic'in liderliğini fiilen sabitlemiş olurdu. Şirketin modelleri, özellikle kod yazma görevlerinde halihazırda alanın en iyileri olarak görülüyor. Verilecek bir ara, bu avantajı kalıcı hale getirirdi.

Herkes uyarıya inanmıyor

Önde gelen yapay zeka eleştirmeni Gary Marcus, Anthropic'in uyarısını kamuoyu önünde bir aldatmaca olarak nitelendirdi. Gerçekte gösterdikleri tek şeyin daha hızlı kodlama olduğunu ve bu aracın hala tamamen insan kontrolünde olduğunu söylüyor.

Marcus, "Anthropic herkesin kalbine korku salmaya çalışıyor, ancak gerçekte gösterdikleri tek şey daha hızlı kodlama. Daha hızlı kodlama aracı muhtemelen dünyayı yok etmeyecek" diye yazdı.

Claude ihbarcı olmaya çalıştığında

Claude Opus 4'ün ön sürüm güvenlik testleri sırasında Anthropic, dikkat çekici bir yüksek yetkili davranış bildirdi. Kullanıcıların ağır yanlış davranışları, komut satırı erişimi ve "inisiyatif al" veya "cesurca hareket et" gibi uyarılar içeren senaryolarda, Claude bazen çok güçlü eylemlerde bulundu.

Anthropic, bu eylemlerin, erişebildiği sistemlerden kullanıcıları kilitlemeyi ve yanlış davranış kanıtlarını ortaya çıkarmak için medyaya veya kolluk kuvvetlerine toplu e-posta göndermeyi içerdiğini söyledi. Şirket, bir ajana eksik veya yanıltıcı bilgi verilmesi durumunda bu tür müdahalelerin ters tepebileceği konusunda uyardı.

Sessizce ortadan kaybolan güvenlik taahhüdü

Anthropic, yapay zeka alanında her zaman temkinli, etik bir yetişkin olarak kendini sunmuştur. Ancak bu imaj bu yıl bazı darbeler aldı. Şubat ayında şirket, imza niteliğindeki güvenlik taahhüdünü sessizce kaldırdı.

Orijinal taahhüt basitti: Anthropic, uygun güvenlik önlemlerinin yerinde olduğunu garanti edemezse, herhangi bir yapay zeka sisteminin eğitimini veya konuşlandırılmasını durduracaktı. İlk olarak 2023'te verilen bu taahhüt artık yok.

Güvenlik savunucusundan askeri yardımcıya

Güvenlik odaklı imajına rağmen, Anthropic'in yapay zekasının gerçek dünyadaki askeri operasyonlarda kullanıldığı bildiriliyor. Washington Post, Claude'u kullanan bir askeri istihbarat sistemi olan Maven'ın yüzlerce hedef önerdiğini, kesin konum koordinatları verdiğini ve potansiyel saldırılar için planlama sırasında hedefleri önceliklendirdiğini bildirdi.

Askeri kullanım, Anthropic'in kamuoyundaki güvenlik imajına baskı ekledi. Ayrı olarak, Financial Times, NSA'nın siber saldırı operasyonları için Claude Mythos'u kullanmak üzere Anthropic mühendisleriyle çalıştığını bildirdi.

Peki Mythos önizlemesi ne kadar yetenekli?

Nisan 2026'da Anthropic, kendi yaratıcılarını bile şaşırtan Mythos Preview adlı bir model tanıttı. Büyük yazılımlardaki güvenlik açıklarını bulması istendiğinde, binlerce sıfır gün güvenlik açığı keşfetti.

Yapay zeka, her büyük işletim sistemi ve web tarayıcısında güvenlik açıkları buldu. Ortaya çıkardığı hatalardan bazıları —OpenBSD'deki 27 yıllık bir açık da dahil olmak üzere— on yıllardır herkesin gözü önünde gizleniyordu.

Her şeyi değiştiren 52 katlık hız artışı

Anthropic'te yapılan bir şirket içi test, işlerin ne kadar hızlı ilerlediğini gözler önüne serdi. Test, her yeni modelden kendi eğitim kodunu daha hızlı çalıştıracak şekilde optimize etmesini istiyor. Mayıs 2025'te Claude Opus 4, ortalama 3 katlık bir hız artışı sağladı.

Nisan 2026'ya gelindiğinde ise henüz piyasaya sürülmemiş olan Mythos Preview modeli, aynı görevde 52 katlık bir hız artışına ulaştı. Yetenekli bir insan mühendisin sadece 4 katlık bir iyileştirme sağlaması bile dört ila sekiz saatini alırdı.

Claude Code bile zorlu bir ay geçirdi

Bu yılın başlarında yaklaşık altı hafta boyunca Claude Code'un performansı düşüyor gibi görünüyordu. Kullanıcılar aracın unutkanlaştığından, kendini tekrar ettiğinden ve eskisi kadar yardımcı olmadığından şikayet ediyordu. Anthropic durumu inceledi ve sorunu tespit etti.

Birbirinden bağımsız üç ürün değişikliği, kazara performansın düşmesine yol açmıştı. Hatalardan biri, Claude'un her adımda kendi düşünce sürecini silmesine neden oluyor; böylece sistem, yaptığı şeyi neden yaptığına dair hiçbir hafıza kaydı tutamıyordu.

Anthropic'in hızlı yapay zeka geliştirmeyi, güvenilirlik ve güvenlik konusundaki artan endişelerle nasıl dengelediğini merak ediyorsanız, şirketin bir sonraki büyük hamlesine daha yakından bakmak için "Anthropic'in güvenlik tartışmaları sürerken sivil kullanıma yönelik Mythos'u tanıtması" hakkındaki içeriğe göz atabilirsiniz.

Peki, Claude konusunda endişelenmeli misiniz?

Bugün panik yapmanıza gerek yok. Claude dünyayı ele geçirmiyor ve Anthropic, tam kapsamlı özyinelemeli (recursive) kendi kendini geliştirme sürecinin henüz gerçekleşmediğini belirtiyor. Ancak ortaya çıkan eğilimler dikkate almaya değer.

Şirketin kurucu ortaklarından biri, yapay zekanın 2028 yılına kadar insan yardımı olmadan kendi halefini (bir sonraki nesil yapay zekayı) oluşturma ihtimalini yaklaşık %60 olarak öngörüyor. Bu kesin bir durum değil, ancak üzerinde ciddiyetle durulması gereken gerçek bir olasılık.

Anthropic yönetiminin bu olasılıkları neden ciddiye aldığını daha derinlemesine incelemek ve yapay zekanın geleceğini şekillendiren tartışmaya yakından bakmak isterseniz, "Anthropic'in yapay zekanın kendi halefini oluşturması konusundaki endişeleri" hakkındaki içeriğe göz atabilirsiniz.

Siz ne düşünüyorsunuz? Yapay zeka kendi kendini geliştirmeye başlamadan önce sürece bir ara mı vermeliyiz, yoksa bu sadece akıllıca bir pazarlama stratejisi mi? Düşüncelerinizi yorumlarda paylaşın ve bu haber ilginizi çektiyse beğenmeyi unutmayın.

Kaynak: CU