Alınan bilgiye göre: Anthropic, en güçlü yapay zekâsını İngiliz şirketlerinden esirgiyor

ABD'li teknoloji devi Anthropic, küresel çapta kullanıma sunulması için fazla tehlikeli olduğu uyarısını yaptıktan sonra, güçlü yapay zekâ modeline erişimi İngiliz şirketlerine kapatıyor.

Anthropic'in Birleşik Krallık, İrlanda ve Kuzey Avrupa operasyonlarını yöneten Pip White, şirketin, Mythos'u kullanma onayı almış olan ilk grup ABD'li işletmeyle birlikte hâlâ bir "öğrenme aşamasında" olduğunu belirtti.

Anthropic, geçen ay yaptığı açıklamada, söz konusu yapay zekânın bilgisayar sistemlerindeki daha önce bilinmeyen binlerce güvenlik açığını tespit edebildiğini keşfettikten sonra, Mythos'un genel kullanıma sunulmasını ertelediğini duyurmuştu.

Bankalar ve altyapı sağlayıcıları da dahil olmak üzere büyük şirketler, bilgisayar ağlarındaki güvenlik açıklarını avlayan bilgisayar korsanlarına karşı savunma yapabilmek amacıyla bu yapay zekâya erişim sağlamaya büyük ilgi gösteriyor. Finansal düzenleyiciler ise Anthropic'ten, sistemin yetenekleri hakkında kendilerine bir bilgilendirme yapmasını talep etti.

Anthropic gelecekte erişimi genişletmeyi beklediğini belirtmiş olsa da, şu an itibarıyla Microsoft, Apple ve JP Morgan'ın da aralarında bulunduğu yalnızca bir avuç ABD'li teknoloji ve finans şirketi Mythos'u kullanabiliyor.

Bayan White şunları söyledi: "Bu modellerin arkasındaki güç konusunda son derece titiz davranıyor ve onları, savunma tarafında yer alanların kullanımına sunuyoruz. Henüz ikinci aşamayı başlatmaya hazır değiliz; söz konusu kurumlarla birlikte hâlâ o öğrenme aşamasındayız."

White, şu an itibarıyla hiçbir İngiliz işletmesinin Mythos'a erişiminin bulunmadığını ifade etti.

Anthropic, Nisan ayında, İngiliz bankalarının da dahil olduğu ikinci bir şirket grubuna erişim hakkı tanımayı planlıyordu.

Ancak Trump yönetimi, o tarihten bu yana şirkete Mythos'a erişimi kısıtlaması yönünde talimat verdi; bu durum, kısa vadede sisteme daha fazla işletmeyi dahil etmeye yönelik planların sekteye uğramasına neden oldu.

Anthropic, yeni sistemlerin güvenlik testlerini gerçekleştiren İngiltere Yapay Zekâ Güvenlik Enstitüsü'ne erişim imkânı sağladı. Enstitü geçen hafta yaptığı açıklamada, Mythos'un mevcut yapay zekâ tabanlı siber güvenlik araçlarına kıyasla "dikkat çekici bir yetenek sıçraması" sergilediğini belirtti.

Enstitü daha önce de, Mythos'un, bir insan uzmanın gerçekleştirmesi durumunda günler sürecek olan siber saldırı (hacking) tatbikatlarını tek başına yürütebildiğini ifade etmişti.

Anthropic'in CEO'su Dario Amodei, bu hafta Cotswolds bölgesindeki bir malikânede düzenlenen zirvede Avrupalı üst düzey yöneticileri ağırlıyor; Mythos'un bu zirvede ele alınacak başlıca konulardan biri olması bekleniyor. Anthropic ayrıca, İngiltere Merkez Bankası Başkanı Andrew Bailey’nin başkanlık ettiği küresel denetim organı Finansal İstikrar Kurulu’nu Mythos hakkında bilgilendirmeye hazırlanıyor.

İngiltere Merkez Bankası, son haftalarda bankaları bir araya getirerek onları Mythos’un yetenekleri konusunda uyardı.

Söz konusu model, güvenlik açıklarını bağımsız olarak tespit edebilme ve siber saldırıları planlayabilme yetisi nedeniyle siber güvenlik uzmanlarının yüreğine korku saldı; zira bu tür siber saldırı yetenekleri, yapay zekânın suçluların eline geçmesi durumunda yıkıcı sonuçlar doğurabilir.

Rakip yapay zekâ şirketi OpenAI ise, en yeni siber modelinin Birleşik Krallık ve Avrupa’daki işletmeler tarafından kullanımına geçtiğimiz hafta itibarıyla izin vermeye başladı.

Kaynak: TT

Anthropic’in son transferi, Tesla’da yapay zeka birimine liderlik etmiş, OpenAI’da çalışmış ve Elon Musk’tan büyük övgü almış bir isim

Tesla’nın eski yapay zeka başkanı Andrej Karpathy, Anthropic’e katılıyor; bu sırada eski patronu Elon Musk ise SpaceX’i bu yapay zeka girişimiyle daha sıkı bir şekilde ilişkilendiriyor.

OpenAI’ın kurucu ekibinin de bir üyesi olan Karpathy, Salı günü yaptığı açıklamada, “Büyük Dil Modellerinin (LLM) sınırındaki önümüzdeki birkaç yılın, özellikle şekillendirici bir dönem olacağını düşünüyorum,” dedi. “Buradaki ekibe katılmaktan ve [araştırma ve geliştirme] çalışmalarına geri dönmekten büyük heyecan duyuyorum.”

Anthropic’in aktardığına göre Karpathy, Claude büyük dil modeline temel bilgi ve yeteneklerini kazandıran büyük ölçekli eğitim süreçlerinden sorumlu olan Nick Joseph’in ön eğitim ekibine katıldı. Karpathy, Claude’u kullanarak ön eğitim araştırmalarını hızlandırmaya odaklanan bir ekip kuracak.

OpenAI’da çalıştığı dönemde Karpathy; üretken yapay zeka modellerine yönelik derin öğrenme ve derin pekiştirmeli öğrenme konularında çalışmalar yürütmüştü. Haziran 2017’de, elektrikli araç şirketinin Autopilot sürücü destek özelliğinin geliştirilmesine katkıda bulunmak üzere, Tesla CEO’su ve OpenAI kurucu ortağı Elon Musk tarafından işe alındı.

Musk’ın OpenAI’a karşı açtığı son davanın bir parçası olarak kamuya açıklanan e-posta yazışmalarına göre Musk, o dönemde Karpathy’yi bilgisayarlı görü (computer vision) alanında dünyadaki “tartışmasız 2 numaralı isim” olarak nitelendirmişti. Tesla’da bilgisayarlı görü ekibine liderlik etmenin yanı sıra Karpathy, kısa bir süre Tesla’nın Optimus insansı robot programı üzerinde de çalıştı.

Daha fazlası: Anthropic ve OpenAI, yapay zeka kullanımını yaygınlaştırma çabalarında Palantir’in stratejisini izliyor

Karpathy, Autopilot biriminde işten çıkarmaların yaşanmasından kısa bir süre sonrasına, yani 2022 yılına kadar Tesla’da görev yapmaya devam etti. Daha sonra kısa bir dönem için OpenAI’a geri döndü ve ardından Eureka Labs adında bir yapay zeka eğitim girişimi kurdu. Salı günü yaptığı açıklamada Karpathy, eğitim alanındaki çalışmalarına “zamanı geldiğinde” yeniden başlamayı planladığını belirtti; ancak bu konuda ek ayrıntı vermedi.

Karpathy’nin Anthropic’e geçişi, Musk’ın şirketi SpaceX’in, Anthropic’in yapay zeka laboratuvarlarına Tennessee’deki Colossus 1 veri merkezinden bilgi işlem gücü sağlama konusunda bir anlaşma duyurmasından kısa bir süre sonra gerçekleşti. Anthropic ayrıca, “birden fazla gigavatlık yörünge tabanlı yapay zeka bilgi işlem kapasitesi geliştirmek” amacıyla SpaceX ile iş birliği yapmaya ilgi duyduğunu ifade etti. Bu anlaşma, daha önce Anthropic’in yapay zekâsının ırkçı olduğunu iddia eden ve şirketi ikiyüzlülükle suçlayan Musk’ın fikirlerinde bir değişikliğe işaret etti. Musk bu ay yaptığı açıklamada, artık Claude sohbet robotunun “muhtemelen iyi olacağını” düşündüğünü ve Anthropic’te tanıştığı hiç kimsenin “kötülük dedektörünü” harekete geçirmediğini belirtti.

Yakın zamanda 380 milyar dolar değer biçilen Anthropic, Pazartesi günü, popüler geliştirici araçları girişimi Stainless’ı satın aldığını duyurdu. Salı günü ise Anthropic, danışmanlık firmasının 276.000’den fazla çalışanına Claude’a erişim imkânı tanıyan, KPMG ile yapılan bir “küresel ittifakı” açıkladı.

Hem Anthropic hem de SpaceX’in, OpenAI ile birlikte, yakın gelecekte halka arz süreçlerini başlatmaları bekleniyor. SpaceX’in, halka arz başvurusu için gerekli evrakları bu hafta gibi kısa bir süre içinde sunması öngörülüyor.

Kaynak: MW