Alınan bilgiye göre: Anthropic, en güçlü yapay zekâsını İngiliz şirketlerinden esirgiyor

ABD'li teknoloji devi Anthropic, küresel çapta kullanıma sunulması için fazla tehlikeli olduğu uyarısını yaptıktan sonra, güçlü yapay zekâ modeline erişimi İngiliz şirketlerine kapatıyor.

Anthropic'in Birleşik Krallık, İrlanda ve Kuzey Avrupa operasyonlarını yöneten Pip White, şirketin, Mythos'u kullanma onayı almış olan ilk grup ABD'li işletmeyle birlikte hâlâ bir "öğrenme aşamasında" olduğunu belirtti.

Anthropic, geçen ay yaptığı açıklamada, söz konusu yapay zekânın bilgisayar sistemlerindeki daha önce bilinmeyen binlerce güvenlik açığını tespit edebildiğini keşfettikten sonra, Mythos'un genel kullanıma sunulmasını ertelediğini duyurmuştu.

Bankalar ve altyapı sağlayıcıları da dahil olmak üzere büyük şirketler, bilgisayar ağlarındaki güvenlik açıklarını avlayan bilgisayar korsanlarına karşı savunma yapabilmek amacıyla bu yapay zekâya erişim sağlamaya büyük ilgi gösteriyor. Finansal düzenleyiciler ise Anthropic'ten, sistemin yetenekleri hakkında kendilerine bir bilgilendirme yapmasını talep etti.

Anthropic gelecekte erişimi genişletmeyi beklediğini belirtmiş olsa da, şu an itibarıyla Microsoft, Apple ve JP Morgan'ın da aralarında bulunduğu yalnızca bir avuç ABD'li teknoloji ve finans şirketi Mythos'u kullanabiliyor.

Bayan White şunları söyledi: "Bu modellerin arkasındaki güç konusunda son derece titiz davranıyor ve onları, savunma tarafında yer alanların kullanımına sunuyoruz. Henüz ikinci aşamayı başlatmaya hazır değiliz; söz konusu kurumlarla birlikte hâlâ o öğrenme aşamasındayız."

White, şu an itibarıyla hiçbir İngiliz işletmesinin Mythos'a erişiminin bulunmadığını ifade etti.

Anthropic, Nisan ayında, İngiliz bankalarının da dahil olduğu ikinci bir şirket grubuna erişim hakkı tanımayı planlıyordu.

Ancak Trump yönetimi, o tarihten bu yana şirkete Mythos'a erişimi kısıtlaması yönünde talimat verdi; bu durum, kısa vadede sisteme daha fazla işletmeyi dahil etmeye yönelik planların sekteye uğramasına neden oldu.

Anthropic, yeni sistemlerin güvenlik testlerini gerçekleştiren İngiltere Yapay Zekâ Güvenlik Enstitüsü'ne erişim imkânı sağladı. Enstitü geçen hafta yaptığı açıklamada, Mythos'un mevcut yapay zekâ tabanlı siber güvenlik araçlarına kıyasla "dikkat çekici bir yetenek sıçraması" sergilediğini belirtti.

Enstitü daha önce de, Mythos'un, bir insan uzmanın gerçekleştirmesi durumunda günler sürecek olan siber saldırı (hacking) tatbikatlarını tek başına yürütebildiğini ifade etmişti.

Anthropic'in CEO'su Dario Amodei, bu hafta Cotswolds bölgesindeki bir malikânede düzenlenen zirvede Avrupalı üst düzey yöneticileri ağırlıyor; Mythos'un bu zirvede ele alınacak başlıca konulardan biri olması bekleniyor. Anthropic ayrıca, İngiltere Merkez Bankası Başkanı Andrew Bailey’nin başkanlık ettiği küresel denetim organı Finansal İstikrar Kurulu’nu Mythos hakkında bilgilendirmeye hazırlanıyor.

İngiltere Merkez Bankası, son haftalarda bankaları bir araya getirerek onları Mythos’un yetenekleri konusunda uyardı.

Söz konusu model, güvenlik açıklarını bağımsız olarak tespit edebilme ve siber saldırıları planlayabilme yetisi nedeniyle siber güvenlik uzmanlarının yüreğine korku saldı; zira bu tür siber saldırı yetenekleri, yapay zekânın suçluların eline geçmesi durumunda yıkıcı sonuçlar doğurabilir.

Rakip yapay zekâ şirketi OpenAI ise, en yeni siber modelinin Birleşik Krallık ve Avrupa’daki işletmeler tarafından kullanımına geçtiğimiz hafta itibarıyla izin vermeye başladı.

Kaynak: TT

Anthropic’in son transferi, Tesla’da yapay zeka birimine liderlik etmiş, OpenAI’da çalışmış ve Elon Musk’tan büyük övgü almış bir isim

Tesla’nın eski yapay zeka başkanı Andrej Karpathy, Anthropic’e katılıyor; bu sırada eski patronu Elon Musk ise SpaceX’i bu yapay zeka girişimiyle daha sıkı bir şekilde ilişkilendiriyor.

OpenAI’ın kurucu ekibinin de bir üyesi olan Karpathy, Salı günü yaptığı açıklamada, “Büyük Dil Modellerinin (LLM) sınırındaki önümüzdeki birkaç yılın, özellikle şekillendirici bir dönem olacağını düşünüyorum,” dedi. “Buradaki ekibe katılmaktan ve [araştırma ve geliştirme] çalışmalarına geri dönmekten büyük heyecan duyuyorum.”

Anthropic’in aktardığına göre Karpathy, Claude büyük dil modeline temel bilgi ve yeteneklerini kazandıran büyük ölçekli eğitim süreçlerinden sorumlu olan Nick Joseph’in ön eğitim ekibine katıldı. Karpathy, Claude’u kullanarak ön eğitim araştırmalarını hızlandırmaya odaklanan bir ekip kuracak.

OpenAI’da çalıştığı dönemde Karpathy; üretken yapay zeka modellerine yönelik derin öğrenme ve derin pekiştirmeli öğrenme konularında çalışmalar yürütmüştü. Haziran 2017’de, elektrikli araç şirketinin Autopilot sürücü destek özelliğinin geliştirilmesine katkıda bulunmak üzere, Tesla CEO’su ve OpenAI kurucu ortağı Elon Musk tarafından işe alındı.

Musk’ın OpenAI’a karşı açtığı son davanın bir parçası olarak kamuya açıklanan e-posta yazışmalarına göre Musk, o dönemde Karpathy’yi bilgisayarlı görü (computer vision) alanında dünyadaki “tartışmasız 2 numaralı isim” olarak nitelendirmişti. Tesla’da bilgisayarlı görü ekibine liderlik etmenin yanı sıra Karpathy, kısa bir süre Tesla’nın Optimus insansı robot programı üzerinde de çalıştı.

Daha fazlası: Anthropic ve OpenAI, yapay zeka kullanımını yaygınlaştırma çabalarında Palantir’in stratejisini izliyor

Karpathy, Autopilot biriminde işten çıkarmaların yaşanmasından kısa bir süre sonrasına, yani 2022 yılına kadar Tesla’da görev yapmaya devam etti. Daha sonra kısa bir dönem için OpenAI’a geri döndü ve ardından Eureka Labs adında bir yapay zeka eğitim girişimi kurdu. Salı günü yaptığı açıklamada Karpathy, eğitim alanındaki çalışmalarına “zamanı geldiğinde” yeniden başlamayı planladığını belirtti; ancak bu konuda ek ayrıntı vermedi.

Karpathy’nin Anthropic’e geçişi, Musk’ın şirketi SpaceX’in, Anthropic’in yapay zeka laboratuvarlarına Tennessee’deki Colossus 1 veri merkezinden bilgi işlem gücü sağlama konusunda bir anlaşma duyurmasından kısa bir süre sonra gerçekleşti. Anthropic ayrıca, “birden fazla gigavatlık yörünge tabanlı yapay zeka bilgi işlem kapasitesi geliştirmek” amacıyla SpaceX ile iş birliği yapmaya ilgi duyduğunu ifade etti. Bu anlaşma, daha önce Anthropic’in yapay zekâsının ırkçı olduğunu iddia eden ve şirketi ikiyüzlülükle suçlayan Musk’ın fikirlerinde bir değişikliğe işaret etti. Musk bu ay yaptığı açıklamada, artık Claude sohbet robotunun “muhtemelen iyi olacağını” düşündüğünü ve Anthropic’te tanıştığı hiç kimsenin “kötülük dedektörünü” harekete geçirmediğini belirtti.

Yakın zamanda 380 milyar dolar değer biçilen Anthropic, Pazartesi günü, popüler geliştirici araçları girişimi Stainless’ı satın aldığını duyurdu. Salı günü ise Anthropic, danışmanlık firmasının 276.000’den fazla çalışanına Claude’a erişim imkânı tanıyan, KPMG ile yapılan bir “küresel ittifakı” açıkladı.

Hem Anthropic hem de SpaceX’in, OpenAI ile birlikte, yakın gelecekte halka arz süreçlerini başlatmaları bekleniyor. SpaceX’in, halka arz başvurusu için gerekli evrakları bu hafta gibi kısa bir süre içinde sunması öngörülüyor.

Kaynak: MW

Trump, Çin endişeleri nedeniyle yapay zekâ yürütme emrini iptal etti.

Donald Trump, ABD'nin yapay zeka alanındaki hakimiyetini Çin'e kaptırabileceği yönündeki endişeleri gerekçe göstererek, yeni yapay zeka modellerine güvenlik önlemleri getirecek olan bir başkanlık kararnamesinin imzalanmasını iptal etti.

ABD Başkanı'nın, söz konusu kararnameyi Perşembe günü düzenlenecek bir törenle imzalaması bekleniyordu; ancak Meta CEO'su Mark Zuckerberg ve xAI kurucusu Elon Musk'tan geldiği bildirilen baskılar üzerine bu planlar ertelendi.

Trump, Oval Ofis'te gazetecilere yaptığı açıklamada, erteleme kararına ilişkin olarak, "Bunun, biliyorsunuz, bizim Çin'e ve herkese karşı sahip olduğumuz liderliğin önüne geçeceğini düşünüyorum; ben de bu liderliğe engel teşkil edecek hiçbir şey yapmak istemiyorum," ifadelerini kullandı.

Meta ve xAI, konuyla ilgili yorum taleplerine henüz yanıt vermedi.

Kararnameye yakın iki kaynağın Reuters'a aktardığı bilgilere göre, söz konusu kararname, yapay zeka geliştiricilerinin gelişmiş yapay zeka modellerini kamuya sunmadan önce ABD hükümetiyle etkileşime geçmelerini sağlayacak gönüllülük esasına dayalı bir çerçeve oluşturacaktı.

Trump, başkanlık kararnamesinin tam olarak hangi maddelerine itiraz ettiğini belirtmedi. Teknoloji sektörünün temsilcileri, kararnamenin hükümlerinin, yeni modellerin piyasaya sürülme sürecini yavaşlatması veya güvenlik endişelerini gidermek amacıyla şirketleri modellerin işleyiş biçimini değiştirmeye zorlaması durumunda, sektörün kârlarına zarar verebileceğinden endişe ediyor.

Bir başka kaynağın aktardığına göre Başkan Trump, ayrıca ABD hükümetine; devlet sistemlerinin siber güvenlik savunmalarını güçlendirmek amacıyla bu gelişmiş yapay zeka modellerinden yararlanması ve aynı zamanda bankalar, hastaneler gibi ülke ekonomisi açısından hayati önem taşıyan sektörlere ait ağların güvenliğini artırması yönünde talimat vermeyi planlıyordu.

Anthropic'in "Mythos"u da dahil olmak üzere, güçlü yeni yapay zeka sistemlerinin yarattığı siber güvenlik risklerine ilişkin endişeler, hem ABD hükümeti nezdinde hem de özel sektörde giderek artıyor.

Anthropic, Mythos'un karmaşık siber saldırıların gücünü ve etkisini katlayarak artırabileceği uyarısında bulunmuş olsa da, siber güvenlik uzmanları Reuters'a yaptıkları açıklamalarda, kontrolsüz siber saldırıların yol açabileceği tehlikelere dair duyulan korkuların abartılı olduğunu ifade ettiler.

Ocak 2025'te yeniden göreve gelmesinden bu yana Trump, selefi Başkan Joe Biden'ın yönetimine kıyasla, büyük teknoloji şirketlerine (Big Tech) karşı daha ılımlı bir tutum sergiliyor.

Bununla birlikte, Trump'ın önde gelen destekçilerinden bazıları, söz konusu teknolojiye yönelik güvenlik önlemlerinin artırılması çağrısında bulunuyor.

Son dönemde yayımlanan raporlar, Trump'ın Özel Kalem Müdürü Susie Wiles ve Hazine Bakanı Scott Bessent'in de yeni yapay zeka modellerine yönelik güvenlik tedbirlerinin sıkılaştırılması yönünde görüş bildirdiklerini öne sürüyor. Trump’ın eski danışmanı Steve Bannon da Trump’a açık bir mektup yazarak, kendisinden "sınır modelleri" (frontier models) için zorunlu test uygulaması getirmesini talep etti ve şunları yazdı: "Bu şirketlerin kendi kendilerini denetleyeceklerine güvenemeyiz."

Kaynak: TI

Papa Leo, ilk coşkulu manifestosunda dünyayı yapay zeka konusunda 'yavaşlamaya' çağırıyor

Papa Leo, Pazartesi günü yayımlanan ilk önemli belgesinde hükümetlere yapay zeka sistemlerinin geliştirilmesini yavaşlatmaları çağrısında bulundu; bu sistemlerin yanlış bilgileri yaydığına, çatışmalara öncelik verdiğine ve dünyayı bitmek bilmeyen bir savaş yoluna sürükleme riski taşıdığına dair uyarılarda bulundu.

Son aylarda daha sert bir ton benimseyen ve İran savaşına yönelik eleştirileriyle ABD Başkanı Donald Trump'ın hışmını üzerine çeken Leo, ansiklik (papalık genelgesi) olarak bilinen bu uzun metinde dünya liderlerine yönelik bir dizi tutkulu çağrıda bulundu.

ABD kökenli ilk Papa; yapay zeka verilerinin mülkiyetinin yalnızca özel ellerde bırakılmaması, politika yapıcıların işçi haklarını koruması ve çocukları bu teknolojinin etkilerinden uzak tutması gerektiğini vurguladı; ayrıca yapay zeka şirketleri arasındaki rekabetin yatıştırılması çağrısında bulundu.

Leo, "Magnifica Humanitas" (Muhteşem İnsanlık) başlığını taşıyan metinde, "Her şeyin hızlandığı bir dönemde, gidişatı yavaşlatabilecek daha aktif bir siyasi katılım gereklidir," ifadelerine yer verdi.

Papa; "sağlam yasal çerçeveler, bağımsız denetim mekanizmaları, bilinçli kullanıcılar ve sorumluluklarından kaçınmayan bir siyasi sistem" kurulması çağrısında bulundu.

Ansiklikler (papalık genelgeleri), bir Papa'nın Kilise'nin 1,4 milyar üyesine yönelik öğretilerini aktardığı en üst düzey belgelerden biri olarak kabul edilir.

Pazartesi günü yayımlanan ve büyük bir merakla beklenen; yaklaşık 43.000 kelimeden oluşan bu metin üzerinde, Papa Leo'nun bir yıldan biraz daha uzun bir süre önce bu makama seçilmesinden bu yana çalışmalar yürütülüyordu.

PAPA, 'HAKLI SAVAŞ' TEORİSİNİ REDDEDİYOR

Ana teması yapay zeka olan bu belge; aynı zamanda dünyayı kasıp kavuran savaşların sayısını kınadı, çok taraflı uluslararası kuruluşların zayıflamasından duyulan üzüntüyü dile getirdi ve silah endüstrisinin kâr hırsının, çatışmaların arkasındaki itici güç olduğu uyarısında bulundu.

Leo, metnin İngilizce versiyonunda, "Son 60 yıl; çoğu zaman sivil nüfusu devasa boyutlarda etkileyen, şaşırtıcı bir gaddarlıkla yürütülen çatışmalarla damgasını vurdu," ifadelerine yer verdi.

Papa, "İnsanlık; barışın artık üstlenilmesi gereken bir sorumluluk olarak değil, çatışmalar arasında yaşanan kırılgan bir ara dönem olarak algılandığı, şiddet yüklü bir güç kültürünün içine doğru sürükleniyor," dedi.

Leo ayrıca; Kilise'nin küresel çatışmaları değerlendirmek amacıyla en az beşinci yüzyıldan bu yana başvurduğu bir doktrin olan 'Haklı Savaş Teorisi'ni reddeden, bir Papa tarafından bugüne dek yapılmış en net açıklamalardan birine imza attı. Genel olarak savaşların yalnızca saldırganlığa karşı savunma amacıyla yürütülmesi gerektiğini savunan bu öğreti; aralarında Katolik olan Başkan Yardımcısı JD Vance'in de bulunduğu Trump yönetimi yetkilileri tarafından, İran savaşına gerekçe oluşturmak amacıyla da referans gösterilmiştir.

Leo, "Her türlü savaşı meşrulaştırmak için çok sık başvurulan 'haklı savaş' teorisi artık miadını doldurmuştur," diye yazdı.

"Güç, şiddet ve silah kullanımı; sivil nüfuslar için her zaman felaketle sonuçlanan, ilişkisel bir yoksulluğu yansıtmaktadır."

Leo ayrıca, liderlerin vatandaşların dikkatini iç meselelerden uzaklaştırmak amacıyla savaş başlatabilecekleri yönündeki endişesini de dile getirdi.

"Bazı liderlerin silahlı çatışmayı, iç sorunlardan dikkati başka yöne çekmenin etkili bir yolu ve zorlukları yönetmek için kullanılan sinik bir araç olarak görebilecekleri ihtimalini göz ardı edemeyiz," ifadelerini kullandı.

PAPA, KİLİSENİN KÖLELİKTEKİ ROLÜ NEDENİYLE ÖZÜR DİLEDİ

Papa, savaşta yapay zekânın (YZ) her türlü kullanımının "en sıkı etik kısıtlamalara tabi olması gerektiğini" belirtti ve YZ sistemlerine ölümcül kararlar alma yetkisinin devredilmesini "kabul edilemez" olarak nitelendirdi.

Bu ismi seçen 14. Papa olan Leo, YZ sistemlerinin etiği konusuna değinmeden önce, sosyal adalet meselelerine ilişkin yüzyıllara dayanan papalık öğretilerine atıfta bulundu.

Özellikle, Sanayi Devrimi döneminde işçiler için daha iyi ücret ve çalışma koşulları talep eden ünlü bir genelgeyi 1891 yılında yayımlamış olan selefi Papa XIII. Leo'yu örnek gösterdi.

Papa XIV. Leo; YZ sistemlerinin bakımını üstlenen insanlar ile YZ'nin kullanıldığı bilgisayar ve akıllı telefon gibi teknolojik cihazları üreten fabrika işçilerinin maruz kaldığı, kendi tabiriyle "yeni kölelik biçimlerini" şiddetle kınadı.

Papa, "Dünyanın bazı bölgelerinde çocuklar ve ergenler, nadir toprak elementlerinin çıkarıldığı hammaddeleri ezme işlemini gerçekleştirirken tehlikeli koşullar altında çalışmaktadır," diye yazdı.

Papa, "Hesaplama akışının kesintisiz bir şekilde devam edebilmesi uğruna, bu insanların bedenleri yara bere içinde kalmakta, hasar görmekte ve yıpranmaktadır," dedi. "Bu gerçeklik, çağımızın ahlaki vicdanını derinden sarsmaktadır."

Papa ayrıca, Katolik Kilisesi'nin transatlantik köleliği 19. yüzyıla kadar güçlü bir şekilde kınamadığını kabul etti ve bu konuda şahsen özür diledi.

Papa, "Bu durum, Hristiyan hafızasında derin bir yara teşkil etmektedir," diye yazdı. "Bu nedenle, Kilise adına, içtenlikle af diliyorum." Papa, dünyayı yapay zekâ riskleriyle yüzleşmeye çağırdı.

Mektubun başında Katoliklere ve tüm iyi niyetli insanlara seslenmek istediğini belirten Papa Leo, toplumun yapay zekânın nasıl geliştiği ve küresel liderliğin genel yönü hakkında "kritik sorularla" yüzleşmesi gerektiğini söyledi.

İncil'deki Babil Kulesi öyküsünü (bir insan kabilesinin gururla cennete ulaşacak kadar yüksek bir kule inşa etmeye çalışması ve Tanrı'yı kızdırması) hatırlatan Papa, bu öykünün "Tanrı'nın kutsaması olmadan cennete ulaşmayı hedefleyen" herhangi bir girişimin riskini gösterdiğini söyledi.

Papa, "Bir çobanın ve bir babanın yüreğiyle, herkesten, bir başka Babil Kulesi inşa etme girişiminden vazgeçmelerini ve ortak iyiyi inşa etme yolunda güçlerini birleştirmelerini istiyorum," açıklamasında bulundu.

Leo, dünyayı, yapay zekâ sistemlerinin olası risklerini ele almaktan vazgeçmemeye çağırdı.

"Sinsi bir ayartı ortaya çıkabilir; o da, sorunların çok büyük, bizimse çok küçük olduğumuz ve bu nedenle seçimlerimizin bir fark yaratamayacağı düşüncesidir," diye yazdı.

Leo, "Elbette, herkes bir fark yaratma konusunda aynı güce sahip değildir," dedi. "Yine de hiç kimse sorumluluktan muaf değildir. Hepimizin kendine ait eylem alanları vardır."

Kaynak: R