Alınan bilgiye göre: Anthropic, en güçlü yapay zekâsını İngiliz şirketlerinden esirgiyor

ABD'li teknoloji devi Anthropic, küresel çapta kullanıma sunulması için fazla tehlikeli olduğu uyarısını yaptıktan sonra, güçlü yapay zekâ modeline erişimi İngiliz şirketlerine kapatıyor.

Anthropic'in Birleşik Krallık, İrlanda ve Kuzey Avrupa operasyonlarını yöneten Pip White, şirketin, Mythos'u kullanma onayı almış olan ilk grup ABD'li işletmeyle birlikte hâlâ bir "öğrenme aşamasında" olduğunu belirtti.

Anthropic, geçen ay yaptığı açıklamada, söz konusu yapay zekânın bilgisayar sistemlerindeki daha önce bilinmeyen binlerce güvenlik açığını tespit edebildiğini keşfettikten sonra, Mythos'un genel kullanıma sunulmasını ertelediğini duyurmuştu.

Bankalar ve altyapı sağlayıcıları da dahil olmak üzere büyük şirketler, bilgisayar ağlarındaki güvenlik açıklarını avlayan bilgisayar korsanlarına karşı savunma yapabilmek amacıyla bu yapay zekâya erişim sağlamaya büyük ilgi gösteriyor. Finansal düzenleyiciler ise Anthropic'ten, sistemin yetenekleri hakkında kendilerine bir bilgilendirme yapmasını talep etti.

Anthropic gelecekte erişimi genişletmeyi beklediğini belirtmiş olsa da, şu an itibarıyla Microsoft, Apple ve JP Morgan'ın da aralarında bulunduğu yalnızca bir avuç ABD'li teknoloji ve finans şirketi Mythos'u kullanabiliyor.

Bayan White şunları söyledi: "Bu modellerin arkasındaki güç konusunda son derece titiz davranıyor ve onları, savunma tarafında yer alanların kullanımına sunuyoruz. Henüz ikinci aşamayı başlatmaya hazır değiliz; söz konusu kurumlarla birlikte hâlâ o öğrenme aşamasındayız."

White, şu an itibarıyla hiçbir İngiliz işletmesinin Mythos'a erişiminin bulunmadığını ifade etti.

Anthropic, Nisan ayında, İngiliz bankalarının da dahil olduğu ikinci bir şirket grubuna erişim hakkı tanımayı planlıyordu.

Ancak Trump yönetimi, o tarihten bu yana şirkete Mythos'a erişimi kısıtlaması yönünde talimat verdi; bu durum, kısa vadede sisteme daha fazla işletmeyi dahil etmeye yönelik planların sekteye uğramasına neden oldu.

Anthropic, yeni sistemlerin güvenlik testlerini gerçekleştiren İngiltere Yapay Zekâ Güvenlik Enstitüsü'ne erişim imkânı sağladı. Enstitü geçen hafta yaptığı açıklamada, Mythos'un mevcut yapay zekâ tabanlı siber güvenlik araçlarına kıyasla "dikkat çekici bir yetenek sıçraması" sergilediğini belirtti.

Enstitü daha önce de, Mythos'un, bir insan uzmanın gerçekleştirmesi durumunda günler sürecek olan siber saldırı (hacking) tatbikatlarını tek başına yürütebildiğini ifade etmişti.

Anthropic'in CEO'su Dario Amodei, bu hafta Cotswolds bölgesindeki bir malikânede düzenlenen zirvede Avrupalı üst düzey yöneticileri ağırlıyor; Mythos'un bu zirvede ele alınacak başlıca konulardan biri olması bekleniyor. Anthropic ayrıca, İngiltere Merkez Bankası Başkanı Andrew Bailey’nin başkanlık ettiği küresel denetim organı Finansal İstikrar Kurulu’nu Mythos hakkında bilgilendirmeye hazırlanıyor.

İngiltere Merkez Bankası, son haftalarda bankaları bir araya getirerek onları Mythos’un yetenekleri konusunda uyardı.

Söz konusu model, güvenlik açıklarını bağımsız olarak tespit edebilme ve siber saldırıları planlayabilme yetisi nedeniyle siber güvenlik uzmanlarının yüreğine korku saldı; zira bu tür siber saldırı yetenekleri, yapay zekânın suçluların eline geçmesi durumunda yıkıcı sonuçlar doğurabilir.

Rakip yapay zekâ şirketi OpenAI ise, en yeni siber modelinin Birleşik Krallık ve Avrupa’daki işletmeler tarafından kullanımına geçtiğimiz hafta itibarıyla izin vermeye başladı.

Kaynak: TT

Anthropic’in son transferi, Tesla’da yapay zeka birimine liderlik etmiş, OpenAI’da çalışmış ve Elon Musk’tan büyük övgü almış bir isim

Tesla’nın eski yapay zeka başkanı Andrej Karpathy, Anthropic’e katılıyor; bu sırada eski patronu Elon Musk ise SpaceX’i bu yapay zeka girişimiyle daha sıkı bir şekilde ilişkilendiriyor.

OpenAI’ın kurucu ekibinin de bir üyesi olan Karpathy, Salı günü yaptığı açıklamada, “Büyük Dil Modellerinin (LLM) sınırındaki önümüzdeki birkaç yılın, özellikle şekillendirici bir dönem olacağını düşünüyorum,” dedi. “Buradaki ekibe katılmaktan ve [araştırma ve geliştirme] çalışmalarına geri dönmekten büyük heyecan duyuyorum.”

Anthropic’in aktardığına göre Karpathy, Claude büyük dil modeline temel bilgi ve yeteneklerini kazandıran büyük ölçekli eğitim süreçlerinden sorumlu olan Nick Joseph’in ön eğitim ekibine katıldı. Karpathy, Claude’u kullanarak ön eğitim araştırmalarını hızlandırmaya odaklanan bir ekip kuracak.

OpenAI’da çalıştığı dönemde Karpathy; üretken yapay zeka modellerine yönelik derin öğrenme ve derin pekiştirmeli öğrenme konularında çalışmalar yürütmüştü. Haziran 2017’de, elektrikli araç şirketinin Autopilot sürücü destek özelliğinin geliştirilmesine katkıda bulunmak üzere, Tesla CEO’su ve OpenAI kurucu ortağı Elon Musk tarafından işe alındı.

Musk’ın OpenAI’a karşı açtığı son davanın bir parçası olarak kamuya açıklanan e-posta yazışmalarına göre Musk, o dönemde Karpathy’yi bilgisayarlı görü (computer vision) alanında dünyadaki “tartışmasız 2 numaralı isim” olarak nitelendirmişti. Tesla’da bilgisayarlı görü ekibine liderlik etmenin yanı sıra Karpathy, kısa bir süre Tesla’nın Optimus insansı robot programı üzerinde de çalıştı.

Daha fazlası: Anthropic ve OpenAI, yapay zeka kullanımını yaygınlaştırma çabalarında Palantir’in stratejisini izliyor

Karpathy, Autopilot biriminde işten çıkarmaların yaşanmasından kısa bir süre sonrasına, yani 2022 yılına kadar Tesla’da görev yapmaya devam etti. Daha sonra kısa bir dönem için OpenAI’a geri döndü ve ardından Eureka Labs adında bir yapay zeka eğitim girişimi kurdu. Salı günü yaptığı açıklamada Karpathy, eğitim alanındaki çalışmalarına “zamanı geldiğinde” yeniden başlamayı planladığını belirtti; ancak bu konuda ek ayrıntı vermedi.

Karpathy’nin Anthropic’e geçişi, Musk’ın şirketi SpaceX’in, Anthropic’in yapay zeka laboratuvarlarına Tennessee’deki Colossus 1 veri merkezinden bilgi işlem gücü sağlama konusunda bir anlaşma duyurmasından kısa bir süre sonra gerçekleşti. Anthropic ayrıca, “birden fazla gigavatlık yörünge tabanlı yapay zeka bilgi işlem kapasitesi geliştirmek” amacıyla SpaceX ile iş birliği yapmaya ilgi duyduğunu ifade etti. Bu anlaşma, daha önce Anthropic’in yapay zekâsının ırkçı olduğunu iddia eden ve şirketi ikiyüzlülükle suçlayan Musk’ın fikirlerinde bir değişikliğe işaret etti. Musk bu ay yaptığı açıklamada, artık Claude sohbet robotunun “muhtemelen iyi olacağını” düşündüğünü ve Anthropic’te tanıştığı hiç kimsenin “kötülük dedektörünü” harekete geçirmediğini belirtti.

Yakın zamanda 380 milyar dolar değer biçilen Anthropic, Pazartesi günü, popüler geliştirici araçları girişimi Stainless’ı satın aldığını duyurdu. Salı günü ise Anthropic, danışmanlık firmasının 276.000’den fazla çalışanına Claude’a erişim imkânı tanıyan, KPMG ile yapılan bir “küresel ittifakı” açıkladı.

Hem Anthropic hem de SpaceX’in, OpenAI ile birlikte, yakın gelecekte halka arz süreçlerini başlatmaları bekleniyor. SpaceX’in, halka arz başvurusu için gerekli evrakları bu hafta gibi kısa bir süre içinde sunması öngörülüyor.

Kaynak: MW

Trump, Çin endişeleri nedeniyle yapay zekâ yürütme emrini iptal etti.

Donald Trump, ABD'nin yapay zeka alanındaki hakimiyetini Çin'e kaptırabileceği yönündeki endişeleri gerekçe göstererek, yeni yapay zeka modellerine güvenlik önlemleri getirecek olan bir başkanlık kararnamesinin imzalanmasını iptal etti.

ABD Başkanı'nın, söz konusu kararnameyi Perşembe günü düzenlenecek bir törenle imzalaması bekleniyordu; ancak Meta CEO'su Mark Zuckerberg ve xAI kurucusu Elon Musk'tan geldiği bildirilen baskılar üzerine bu planlar ertelendi.

Trump, Oval Ofis'te gazetecilere yaptığı açıklamada, erteleme kararına ilişkin olarak, "Bunun, biliyorsunuz, bizim Çin'e ve herkese karşı sahip olduğumuz liderliğin önüne geçeceğini düşünüyorum; ben de bu liderliğe engel teşkil edecek hiçbir şey yapmak istemiyorum," ifadelerini kullandı.

Meta ve xAI, konuyla ilgili yorum taleplerine henüz yanıt vermedi.

Kararnameye yakın iki kaynağın Reuters'a aktardığı bilgilere göre, söz konusu kararname, yapay zeka geliştiricilerinin gelişmiş yapay zeka modellerini kamuya sunmadan önce ABD hükümetiyle etkileşime geçmelerini sağlayacak gönüllülük esasına dayalı bir çerçeve oluşturacaktı.

Trump, başkanlık kararnamesinin tam olarak hangi maddelerine itiraz ettiğini belirtmedi. Teknoloji sektörünün temsilcileri, kararnamenin hükümlerinin, yeni modellerin piyasaya sürülme sürecini yavaşlatması veya güvenlik endişelerini gidermek amacıyla şirketleri modellerin işleyiş biçimini değiştirmeye zorlaması durumunda, sektörün kârlarına zarar verebileceğinden endişe ediyor.

Bir başka kaynağın aktardığına göre Başkan Trump, ayrıca ABD hükümetine; devlet sistemlerinin siber güvenlik savunmalarını güçlendirmek amacıyla bu gelişmiş yapay zeka modellerinden yararlanması ve aynı zamanda bankalar, hastaneler gibi ülke ekonomisi açısından hayati önem taşıyan sektörlere ait ağların güvenliğini artırması yönünde talimat vermeyi planlıyordu.

Anthropic'in "Mythos"u da dahil olmak üzere, güçlü yeni yapay zeka sistemlerinin yarattığı siber güvenlik risklerine ilişkin endişeler, hem ABD hükümeti nezdinde hem de özel sektörde giderek artıyor.

Anthropic, Mythos'un karmaşık siber saldırıların gücünü ve etkisini katlayarak artırabileceği uyarısında bulunmuş olsa da, siber güvenlik uzmanları Reuters'a yaptıkları açıklamalarda, kontrolsüz siber saldırıların yol açabileceği tehlikelere dair duyulan korkuların abartılı olduğunu ifade ettiler.

Ocak 2025'te yeniden göreve gelmesinden bu yana Trump, selefi Başkan Joe Biden'ın yönetimine kıyasla, büyük teknoloji şirketlerine (Big Tech) karşı daha ılımlı bir tutum sergiliyor.

Bununla birlikte, Trump'ın önde gelen destekçilerinden bazıları, söz konusu teknolojiye yönelik güvenlik önlemlerinin artırılması çağrısında bulunuyor.

Son dönemde yayımlanan raporlar, Trump'ın Özel Kalem Müdürü Susie Wiles ve Hazine Bakanı Scott Bessent'in de yeni yapay zeka modellerine yönelik güvenlik tedbirlerinin sıkılaştırılması yönünde görüş bildirdiklerini öne sürüyor. Trump’ın eski danışmanı Steve Bannon da Trump’a açık bir mektup yazarak, kendisinden "sınır modelleri" (frontier models) için zorunlu test uygulaması getirmesini talep etti ve şunları yazdı: "Bu şirketlerin kendi kendilerini denetleyeceklerine güvenemeyiz."

Kaynak: TI