"Kendi Neslini Kendisi Yaratacak!" - Anthropic'ten Dünyayı Sarsacak Yapay Zeka Uyarısı!

Anthropic, yapay zekanın yakında kendi haleflerini tasarlayabileceği konusunda uyarıyor

• Yapay zeka yapay zeka üretiyor: Anthropic, yapay zeka modellerinin artık kodun %80'inden fazlasını şirket içinde ürettiğini, bu durumun geliştirmeyi hızlandırdığını ve denetim endişelerini artırdığını söylüyor.

• Verimlilik artışı: Mühendislik çıktısı 2024'ten bu yana sekiz kat arttı ve modeller daha uzun ve karmaşık kodlama görevlerini üstleniyor.

• Denetim zorluğu: Uzmanlar, gelecekteki yapay zeka sistemlerinin insan hedefleriyle uyumlu kalmasını sağlamak için yönetim araçlarının da aynı hızda gelişmesi gerektiği konusunda uyarıyor.

Kodlama, hata ayıklama ve araştırma görevlerini gerçekleştiren yapay zeka sistemleri

Yapay zeka sistemleri artık kendi geliştirmelerinde yer alan kodlama, hata ayıklama ve araştırma çalışmalarının büyük bir kısmını üstlenebiliyor. Hedef belirleme ve sonuçları doğrulama için insan denetimi devam ederken, bu teknik görevlerin operasyonel yürütülmesi giderek yapay zeka tarafından yönetiliyor.

Claude Code görev süresi dakikalardan 12 saate çıktı

Lansmanından sadece bir yıl sonra, Claude Code, yalnızca birkaç dakika süren kodlama görevlerini tamamlamaktan, 12 saate kadar sürebilen projeleri yönetmeye kadar evrim geçirdi. Bu, sistemin operasyonel kapasitesinde önemli bir genişlemeyi yansıtıyor.

Mayıs 2026 itibarıyla Anthropic'in birleştirilmiş kodunun %80'inden fazlasını Claude modelleri üretiyor

Mayıs 2026 itibarıyla, Anthropic'in Claude modelleri, şirketin sistemlerine birleştirilen kodun %80'inden fazlasını üretmekten sorumludur. Bu, 2025'te Claude Code'un lansmanından önce düşük tek haneli yüzdelik katkıdan önemli bir artışı işaret ediyor.

Anthropic, yapay zeka sistemlerinin kendi haleflerini oluşturması konusunda uyarıda bulundu

Anthropic, yapay zeka sistemlerinin yakında kendi halef sistemlerini oluşturabilecek kapasitede olabileceği konusunda bir uyarıda bulundu. Bu gelişme, yapay zekanın daha gelişmiş yapay zeka modelleri oluşturmada geleneksel olarak insanlar tarafından yapılan işlerin çoğunu üstlenmesini içerecektir. Uyarı, yapay zeka teknolojisinin nasıl evrimleştiği ve geliştirildiği konusunda potansiyel bir değişimi vurguluyor.

Kaynak: MSN

Anthropic, Claude ile ilgili endişe verici bir durumun yaşandığını belirtiyor

Önde gelen yapay zeka şirketi Anthropic, Claude modeliyle ilgili endişe verici eğilimin devam etmesi halinde, insanların çok yakın bir gelecekte yapay zeka sistemleri üzerindeki kontrolü kaybetme riskiyle karşı karşıya kalabileceği konusunda uyarıda bulundu.

1 trilyon dolar değerindeki girişim, Claude'un artık kendi kodunun yüzde 80'inden fazlasını yazdığını açıkladı; bu oran geçen yılın Şubat ayında yüzde 10'un altındaydı.

Anthropic, Claude tarafından yazılan kodun şu anda insanlar tarafından yazılan kodla kabaca eşdeğer düzeyde olduğunu ve önümüzdeki yıl içinde çok daha iyi bir seviyeye gelmesinin beklendiğini öne sürüyor.

Anthropic'ten Marina Favaro ve Jack Clark, Perşembe günü yayınladıkları bir blog yazısında, "Bu eğilim, kendi halefini tamamen otonom bir şekilde tasarlayıp geliştirebilen bir yapay zeka sistemine işaret ediyor," ifadelerini kullandı.

"Kendini inşa edebilen bir yapay zeka, teknoloji tarihinde büyük bir gelişme olurdu; bilim, sağlık ve diğer alanlarda dünyaya muazzam faydalar sağlayabilecek bir gelişme.

"Ancak tam özyinelemeli (recursive) kendi kendini geliştirme süreci, insanların yapay zeka sistemleri üzerindeki kontrolü kaybetme risklerini de artırabilir."

Anthropic, yakın zamana kadar yapay zeka alanındaki ilerlemelerin tamamen insan mühendis ve geliştiricilere dayandığına dikkat çekti. Ancak şirket, ilerlemeyi hızlandırmak amacıyla artık yapay zekasının geliştirilmesini giderek artan bir şekilde bizzat yapay zeka sistemlerine devrediyor.

Bu gelişmeler Claude'u, insan müdahalesi olmaksızın kendini geliştirebileceği bir süreç olan "özyinelemeli kendi kendini geliştirme" yoluna sokuyor.

Anthropic ayrıca, teknolojinin potansiyel etkilerini ele almak için daha fazla zaman kazanmak adına geliştirme sürecini fiilen yavaşlatmanın "muhtemelen iyi bir şey olacağını" ekledi.

Yapay zeka geliştirmeyi yavaşlatmak veya duraklatmak; yoğun jeopolitik baskılar ve rekabet ortamında geniş çaplı bir sektör mutabakatının yanı sıra siyasi iş birliğini de gerektirecektir.

Anthropic'in yazısında, "Anlamlı bir yavaşlama veya duraklatma; teknoloji sınırında veya sınırına yakın konumda bulunan, farklı ülkelerdeki çok sayıda iyi kaynağa sahip laboratuvarın, aynı koşullar altında durmayı kabul etmesini gerektirir," denildi.

"Ayrıca her birinin, diğerlerinin gerçekten durduğunu doğrulayabilmesi de gerekir... Bunların hiçbiri prensipte imkansız değil; dünya daha önce başka karmaşık teknolojiler için doğrulama rejimleri oluşturmuştur. Ancak bu rejimlerin hem altyapısını hem de güven ortamını inşa etmek onlarca yıl sürmüştü. Bizim ise o kadar vaktimiz yok."

Anthropic, kendi kendini geliştiren yapay zeka sistemlerinin gelişine hazırlanmak amacıyla önümüzdeki aylarda politika yapıcılar, araştırmacılar ve diğer yapay zeka şirketleriyle iş birliği yapmayı planladığını açıkladı.

Yapay zeka geliştirmeyi durdurmaya yönelik böyle bir çağrı ilk kez yapılmıyor; nitekim 2023 yılında ChatGPT'nin piyasaya sürülmesinin ardından binlerce teknoloji uzmanı, yapay zeka eğitimine altı aylık bir ara verilmesi çağrısında bulunmuştu.

Kâr amacı gütmeyen Future of Life Institute tarafından organize edilen bu açık mektupta, yapay zeka üzerindeki kontrolün toplum genelinde kaybedilmesi tehlikesine dikkat çekilmişti; ancak herhangi bir duraklatma kararı alınamamıştı.

The Independent, bağımsız düşünce yapısına sahip bireyler için küresel haberler, yorumlar ve analizler sunan, dünyanın en özgür düşünceli haber markasıdır. Güvenilir sesimize ve olumlu değişime olan bağlılığımıza değer veren, bağımsız düşünce yapısına sahip bireylerden oluşan geniş ve küresel bir okuyucu kitlesi oluşturduk. Değişimi gerçekleştirme misyonumuz, bugün hiç olmadığı kadar büyük bir önem taşıyor.

Kaynak: TI