Yapay zekasının bir sonraki savaşı tahmin edebildiğini söyleyen eski Harvard profesörü

[™ Admin]

Yapay zekasının bir sonraki savaşı tahmin edebildiğini söyleyen eski Harvard profesörü

'Dünyayı parçalamak istemiyorum'

Haziran ayının başlarında Washington, DC'de düzenlenen ikinci yıllık AI+ Expo'da, günün kelimesi savaştır.

Beltway bürokratları, askeri personel ve Washington'ın danışman sınıfından oluşan bir grup geniş Walter E. Washington Kongre Merkezi'ni gezerken, Palantir standı "savaşçılar" için en son veri toplama paketlerini sergiliyor. Lockheed Martin, AI'yı silah sistemleri boyunca uyguladığı birçok yoldan bahsediyor. Sahnede, savunma teknolojisi gözdesi Mach Industries en yeni insansız hava araçlarını satıyor. Sunucu, "Büyük güç rekabetinin olduğu bir dünyada yaşıyoruz," diyor. "Savaş olasılığını göz ardı edemeyiz - ancak bir savaşı önlemenin en iyi yolu caydırıcılıktır," diyor, Kandahar'ın engebeli dağları ve vadileri gibi görünen yerlerde uçan insansız hava araçlarının videolarıyla çevrili.

Eski Google CEO'su Eric Schmidt liderliğindeki bir düşünce kuruluşu olan Özel Rekabetçi Çalışmalar Projesi tarafından düzenlenen fuar, Silikon Vadisi girişimcileri ile Washington politikacıları arasındaki boşluğu kapatarak Amerika ve müttefiklerinin "kritik teknolojilerdeki rekabet gücünü" "güçlendirmeyi" amaçladığını söylüyor.

Bir kat aşağıda, Anadyr Horizon adlı bir girişim, savaşla savaşmaktan çok savaşı önlemeyi amaçlayan bir yazılım için çok farklı bir satış konuşması yapıyor: Şirketin kurucu ortağı Arvid Bell'in dediği gibi "Barış teknolojisi". Beyaz haki pantolon ve yakasına bir güvercin ve zeytin dalı iliştirilmiş siyah çizgili bir ceket giymiş olan eski Harvard siyaset bilimcisi, Rusya'nın Ukrayna'yı tamamen işgal etmesinin birçok siyaset bilimci için sürpriz olduğunu belirterek başlıyor. Ancak yapay zeka yazılımının bunu tahmin edebileceğini söylüyor.

Uzun zamandır fantezi ve bilim kurgu alanı olan çatışmayı tahmin etme fikri artık ciddi bir uğraş haline geldi. Isaac Asimov'un 1950'lerdeki "Vakıf" serisinde, ana karakter Galaktik İmparatorluğun çöküşünü tahmin etmesini sağlayan bir algoritma geliştirir, yöneticilerini kızdırır ve onu sürgüne zorlar. Koronavirüs salgını sırasında, ABD Dışişleri Bakanlığı "COVID vakalarını" ve "şiddet olaylarını" tahmin etmek için Twitter verileriyle beslenen yapay zeka ile deneyler yaptı. Dışişleri Bakanlığı iki yıl önce yaptığı yapay zeka denetiminde, yapay zekayı "toplu sivil katliamlarını" tahmin etmek için "açık kaynaklı politik, sosyal ve ekonomik veri kümeleri" üzerinde eğitmeye başladığını açıkladı. BM'nin de Gazze'deki savaşı modellemek için yapay zeka ile deneyler yaptığı söyleniyor.

Yapay zekanın insanlığın en yıkıcı dürtülerini tahmin etme yeteneğine olan ilgi, dünyanın küresel çatışmada endişe verici bir artış gördüğü bir dönemde ortaya çıkıyor. Geçtiğimiz hafta İsrail, Ayetullah'ın nükleer bomba geliştirmeye yaklaştığı bahanesiyle Tahran'a saldırılar başlattı. Bir ay önce Hindistan ve Pakistan, Keşmir'deki on yıllardır süren anlaşmazlık nedeniyle savaşın eşiğine geldi. Muhafazakar tahminlere göre, devam eden Gazze çatışması 50.000'den fazla can aldı ve Ukrayna'daki savaş 150.000'den fazla can aldı.

Ekranda, North Star, simüle edilmiş dünyadaki olayları anlatan bir sürü metinle 1970'lerin video oyunu "The Oregon Trail"e benziyor.
Anadyr Horizon, gerçek dünyanın bir simülasyonunda yaşayan ve etkileşimde bulunan dünya liderlerinin kopyalarını oluşturmak için yapay zekayı kullanarak savaşı önleyebileceğine inanıyor. Yazılımı North Star, gerçek dünyadaki karar vericilerin, yapay zeka muadillerini gözlemleyerek ekonomik yaptırımlar veya deniz ablukası gibi belirli bir duruma veya uyarana nasıl tepki verebileceklerini tahmin etmek üzere tasarlandı. Bell, bu dijital ikizlerin o kadar karmaşık olduğunu söylüyor ki, Vladimir Putin gibi bir liderin uykusuzken veya tam bir gece uykusu almışken nasıl davranabileceğini taklit edebiliyorlar. (Bu puanların ardındaki formülün büyük kısmı Anadyr Horizon'un gizli formülü, ancak Rus diktatör dört saatlik uykuyla idare edebildiğini söylüyor.)

Aralık 2021'deki böyle bir olayda, Rus ekibi Ukrayna'yı Putin'in 75 gün sonra kullanacağı çok yönlü askeri saldırıyı kullanarak işgal etti.

İki yıl sonra, Middlebury College'daki James Martin Nükleer Silahsızlanma Çalışmaları Merkezi'nin kurucu müdürü Bill Potter aracılığıyla Nobel Ödüllü fizikçi Ferenc Dalnoki-Veress ile tanıştırıldı. O sırada Dalnoki-Veress, farklı yapay zeka ajanlarını birbirleriyle tartışmaya teşvik etmeyi deniyordu. Dalnoki-Veress, "Aptalca bir şeydi," diyor. "Sanki bir ajan diğer ajana kirazlı lolipopların limonlu lolipoplardan daha iyi olduğunu kanıtlamak zorundaymış gibi." Dalnoki-Veress, robotların diğerlerini konumlarına ikna etmek için gittikleri mesafelerden etkilenmişti. Bazen birbirlerine yalan bile söylüyorlardı; her ne pahasına olursa olsun kazanmaları istendiğinde.

Kısa süre sonra ajanların işbirliği yapıp yapmayacakları, müzakere edip etmeyecekleri veya hatta birbirleriyle anlaşmalar yazıp yazmayacakları konusunda deneyler yapmaya başladı. "Ne kadar insani olduğunu fark ettim," diyor Dalnoki-Veress. Geçtiğimiz sonbaharda, akademisyen üçlüsü Anadyr'i, bu botlara dünya liderlerinin kişiliklerini aşılayabilecekleri ve etkileşimlerini gerçekçi bir şekilde taklit edebilecekleri inancıyla kurdu. Bell, yılda bir savaş oyunu düzenlemek yerine, bir gece boyunca yüz binlerce senaryoyu oyunlaştırıp "çatışmaların gerçekten nerede gerçekleşeceğine dair olasılıksal tahminler" elde edebileceklerini söylüyor.

North Star'ın öngörü yeteneklerinin, diplomatların ve politikacıların çatışma zamanlarında nasıl müzakere edecekleri ve hatta savaşları nasıl önleyecekleri konusunda daha iyi kararlar almalarına yardımcı olacağını umuyor. Anadyr, SSCB'nin Ekim 1962'de Küba'nın batı kıyılarına balistik füzeler ve savaşçılar konuşlandırması için kullandığı kod adına bir göndermedir. Bell, Başkan John F. Kennedy'nin Küba Füze Krizi'ni önlemek için North Star gibi bir aracı olsaydı, yanıt vermek için 13 günü yerine altı ayı olabileceğini öne sürüyor. "Bu ismi, 'Tamam, bir sonraki Anadyr Operasyonu'nu erken tespit edeceğiz' demek için geri alıyoruz," diyor.

Şirket ve risk sermayesi destekçileri bunu yaparken milyarlarca dolar kazanabileceğine inanıyor. Bazı tahminlere göre, şiddetli çatışmalar küresel ekonomiye yalnızca 2023'te 19 trilyon dolara mal oldu. Uluslararası Para Fonu tarafından yürütülen bir çalışma, çatışma önlemeye harcanan her doların, yakın zamanda şiddetli çatışma yaşayan ülkelerde 103 dolar kadar yüksek bir getiri sağlayabileceğini gösteriyor.

Anadyr'e yatırım yapan B Ventures'ın kurucularından Brian Abrams, "Barış teknolojisi büyük bir pazarın peşinde," diyor. "İklim teknolojisine bakarsanız, on yıl önce alan çok küçüktü. İklim teknolojisi olarak bile adlandırılmıyordu," diye ekliyor. "Şimdi, iklim teknolojisine yılda yaklaşık 50 milyar dolar yatırım yapılıyor." Barış teknolojisinin iklim teknolojisi endüstrisinde görülen büyümeyi tekrarlayabileceğini söylüyor. Anadyr'in ilk müşterileri yalnızca devlet kurumlarıyla sınırlı değil; Şirket ayrıca, sosyal huzursuzluğun farklı ülkelerdeki yatırımlarını ve varlıklarını nasıl etkileyebileceğini anlamak isteyen kurumsal risk yöneticilerine de yazılımını satıyor.

Anadyr ayrıca, savunma yüklenicisi Palantir'e erken yatırım yapan Commonweal Ventures ve hem askeri hem de özel sektörde faydalı olabilecek teknolojilere yatırım yapan, gaziler tarafından yönetilen bir firma olan AIN Ventures'tan fon topladı. Bell, tam rakamları açıklamasa da, yedi haneli bir ön tohum turunu kapatabildiklerini söylüyor.

Savaşı önlemeye adanmış bir şirketin ürününü tanıtmak için bir savunma fuarını seçmiş olması Bell için gözden kaçmadı. Ancak barış ve savaş teknolojisi arasındaki çizgiler göründüğünden daha bulanık. Fuarın sponsorlarından biri olan savunma yüklenicisi Rhombus Power, Rusya'nın Ukrayna'yı işgalini doğru tahmin ettiğini söylediği kendi yapay zeka çatışma tahmin yazılımına sahip. Abrams, "Barış teknolojisine aynı madalyonun diğer yüzü olarak bakıyoruz" diyor. Abrams'a göre savunma endüstrisinin büyüklüğü, savaşı önlemeyi amaçlayan teknoloji için bir pazar olduğunu gösteriyor. "Barış teknolojisi ile savaş teknolojisi arasındaki fark," diyor, "aynı soruna farklı bir yaklaşım."

"Dünyayı neyin parçaladığını simüle etmek istiyorum. Dünyayı parçalamak istemiyorum." Arvid Bell, Anadyr Horizon kurucu ortağı
Bell'in demosundaki izleyiciler arasında bile savunma teknolojisi fon sağlayıcıları vardı. Kalabalıktaki girişim sermayedarlarından biri, teknolojinin askeri uygulamalarını düşünüp düşünmediğini sorduğunda, şu anda Anadyr Horizon için bunun çok ileri bir çizgi olduğunu söylüyor. "Şimdilik kesinlikle stratejik seviyeye odaklanıyoruz," diyor. "Çünkü savaşı durdurmaya çalışıyoruz." Bilgili bir satıcı olarak ekliyor - "Pazarın bizi nereye çekeceğini görmek için hala yeterince erken."

Öğle yemeğinde kuruculara, Bell'in Harvard'da yürüttüğü savaş oyunlarını otomatikleştirmede bir şeylerin kaybedildiğine inanıp inanmadıklarını soruyorum. Bell, "Kaybettiğiniz şey," diye kabul ediyor, "Çinli meslektaşının yerine konulan ve ilk kez kıyılarına gelen Amerikan savaş gemilerine bakan bir Amerikan amiralinin son derece kişisel ve duygusal deneyimi." Ancak gerçek insanlarla yılda yalnızca birkaç kez böyle gerçekçi bir simülasyon çalıştırabilirsiniz. "Yapay zekanın yetenekleri katlanarak artıyor," diyor. "Etkisi çok daha büyük ölçekte."

Yapay zekayı, bir sonraki dünya savaşını önlemek gibi yüksek riskli bir şey için kullanmanın başka zorlukları da var. Araştırmacılar, yapay zeka modellerinin eğitildikleri verilerde saklı önyargılar barındırabileceği konusunda uzun zamandır uyarıyorlar. 1998'de Etiyopya ile Eritre arasındaki savaş sırasında ülkeden kaçan bir yapay zeka araştırmacısı olan Timnit Gebru, "İnsanlar tarihin galip tarafından yazıldığını söylüyor," diyor. İnternetteki açık kaynaklı bilgilerle eğitilmiş bir AI sistemi, diyor ki, doğal olarak en çok çevrimiçi grubun önyargılarını temsil edecektir — ki bunlar genellikle Batılı veya Avrupalı olma eğilimindedir.

"İnternette çok fazla veri kullanacağınız ve dolayısıyla bir tür tarafsız gerçeği temsil edeceğiniz fikri zaten tehlikelidir," diye ekliyor Gebru.

Kurucular, dijital dünya liderlerinin eğitildiği gerçek verileri ifşa etmeye isteksizler, ancak Anadyr Horizon'un "tescilli veri kümeleri, açık kaynaklı istihbarat ve kodlanmış davranışsal girdiler" kullandığını — ve farklı dünya görüşlerini hesaba katmak için İngilizce konuşan dünyanın dışından kitaplar ve veriler kullanmak için büyük çaba sarf ettiklerini söylüyorlar. Bell, taklit ettikleri liderlerin 150'ye kadar veri noktası kullandığını söylüyor.

Bu yeni AI sistemlerindeki önyargıları sorgulamak özellikle zordur, sadece sistemler tarafından kullanılan veriler etrafındaki bu şeffaflık eksikliği nedeniyle değil, aynı zamanda sohbet robotlarının bu bilgileri nasıl yorumladığı nedeniyle de. Üretken AI durumunda, "zeka" yanlış bir adlandırmadır - "esasen olası bir kelime dizisini tükürüyorlar," diyor Gebru. Bu yüzden botlar güvenle yanlış ifade etmeye bu kadar yatkındır. Aslında ne söylediklerini bilmiyorlar.

Ayrıca neden belirli kararlar aldıklarını izlemek de zordur. "Sinir ağları açıklanamaz," diyor Gebru. "Geriye dönüp belirli şekillerde nasıl ve neden tahminler yaptığını görebileceğiniz bir regresyon modeli gibi değil." Stanford'daki araştırmacılar tarafından geçen yıl yürütülen, diplomatik karar alma için büyük dil modellerinin kullanımına ilişkin bir çalışma, AI modellerinin savaş çığırtkanlığı eğiliminde olduğunu buldu. Araştırmacılar, "LLM tabanlı ajanların artan askeri harcamaları ve caydırıcı davranışları artan güç ve güvenlikle eş tutma eğiliminde olduğu görülüyor," diye yazdı. "Bazı durumlarda, bu eğilim çatışmaları azaltmak için tam bir nükleer saldırı gerçekleştirme kararlarına bile yol açtı."

Tetiğe basmaya hazır bir AI sistemi gerçek dünyada ciddi sonuçlar doğurabilir. Örneğin, yatırım yaptıkları bir ülkenin çöküşün eşiğinde olduğuna dair North Star gibi bir araçtan gelen bir tahmine göre hedge fonları veya şirketler topluca hareket ederlerse ve varlıklarını önceden satarlarsa, bu sistemin öngördüğü duruma yol açabilir - sermayenin kitlesel göçü aslında para biriminin değer kaybetmesine, işsizliğe ve likidite krizlerine neden olur. Gebru, "Bir yerin istikrarsız olduğu iddiası, onu istikrarsız hale getirir," diye açıklıyor.

Şimdilik, bu sorun Bell'e akademik görünüyor. "Biraz felsefi veya etik bir sorun gibi. Kelebek etkisi gibi," diyor. "Bence bir noktada bununla boğuşmamız gerekecek." Tipik "hızlı hareket et, şeyleri kır" teknoloji şirketi olmadıklarında ısrar ediyor. Farklı ülkeleri ve dünya liderlerini modelledikleri için konu alanı uzmanlarına danışma konusunda bilinçli olduklarını ve ürünü yalnızca seçilmiş bir dizi firmaya sunduklarını söylüyor. "Dünyayı neyin parçaladığını simüle etmek istiyorum. Dünyayı parçalamak istemiyorum."

Güney Sudan, Pakistan ve Bangladeş'te görev yapmış eski kıdemli diplomat Jon Danilowicz, savaşın doğası gereği öngörülemez olduğunu, her zaman hesaba katılmayan olasılıklar ve faktörler olduğunu belirtiyor. "İsrail'in İran'ın nükleer programına karşı harekete geçmesiyle ne olacağına bakarsanız, bunun nasıl gerçekleşeceğine dair her türlü senaryoyu kurabilirsiniz. Eminim bir tahminde bulunacak ve sonrasında haklı olduklarını söyleyebilecek birileri vardır. Peki ya tamamen yanlış tahminde bulunanlar?"

"Bu tür karar alma durumlarında asla kesinlik yoktur," diyor Bell. "Bazı açılardan geleceği tahmin edemeyiz. Ancak olasılıklar atayabiliriz. Daha sonra ne yapılacağına karar vermek kullanıcıya kalır."

Bu arada, şirketin daha acil sorunları var. Üretken AI modelleri üzerine inşa edilen birçok girişim gibi, North Star'ı çalıştırmanın maliyeti çok büyük. "Size bir rakam vermek istemiyorum, ancak bilseydiniz, çatalınızı bırakırdınız. Son derece pahalı," diyor. Bunun üstüne, hükümetle sözleşme yapmak ve gerekli izinleri almak kendi bürokratik bürokrasisi ve masrafları olabilir.

Buna rağmen, teknolojilerine olan ilgide bir eksiklik yok gibi görünüyor. Bell ve Dalnoki-Veress'ten ayrılırken, başka bir toplantıya koştular: Eric Schmidt'in ofisi özel bir gösteri istiyordu.

Kaynak: BI