OpenAI'nin Pentagon ile yaptığı anlaşma, yapay zeka ve kitlesel gözetim konusunda yeni soruları gündeme getiriyor

OpenAI'nin Pentagon ile yaptığı anlaşma, yapay zeka ve kitlesel gözetim konusunda yeni soruları gündeme getiriyor

Cuma günü, Pentagon'un taleplerine karşı duran rakibi Anthropic'i kamuoyu önünde desteklemesinden sadece birkaç saat sonra, OpenAI CEO'su Sam Altman, şirketinin Savunma Bakanlığı ile kendi anlaşmasını imzaladığını duyurdu. Bu hamle, ABD hükümetinin Anthropic'i "tedarik zinciri riski" olarak nitelendirmesi gibi oldukça alışılmadık bir adım atmasından kısa bir süre sonra geldi.

OpenAI'nin kararı, birçok yapay zeka araştırmacısı ve teknoloji politikası uzmanından eleştiri aldı; ancak OpenAI, anlaşmada ABD vatandaşlarının gözetimi ve Anthropic'in sözleşmesinde istediği ancak Pentagon'un reddettiği ölümcül otonom silahlar konusunda sınırlamalar sağladığını belirtti.

Tartışmanın kilit noktalarından biri, yurt içi kitlesel gözetimdi. Uzmanlar uzun zamandır, gelişmiş yapay zekanın, bir kişinin konumu, mali durumu, arama geçmişi gibi dağınık, bireysel olarak zararsız verileri alıp, otomatik olarak ve büyük ölçekte herhangi bir kişinin hayatının kapsamlı bir resmini oluşturabileceği konusunda uyarıda bulunuyorlar. Anthropic CEO'su Dario Amodei, bu tür yapay zekâ destekli kitlesel gözetimin insanların "temel özgürlükleri" için ciddi ve yeni riskler oluşturduğunu ve "yasaların henüz yapay zekânın hızla büyüyen yeteneklerine yetişemediğini" söyledi.

Ancak OpenAI, bir blog yazısında Pentagon ile teknolojisinin kitlesel iç gözetim veya doğrudan otonom silah sistemleri için kullanılmayacağına dair bir anlaşmaya vardığını belirtse de (Anthropic'in vazgeçmeyi reddettiği iki katı sınır), bazı hukuk ve politika uzmanları yasada potansiyel bir boşluk olduğuna dair sorular yöneltti.

Tartışmanın bir kısmı, mevcut ABD yasalarına göre yasal olan, ancak kitlesel gözetimden ayırt edilemez gibi görünen Amerikalıların verilerinin büyük ölçekli analizinin belirsiz yasallığına dayanıyor.

Demokrasi ve Teknoloji Merkezi'nin politika başkan yardımcısı Samir Jain, "Şu anda, ABD yasalarına göre, hükümet yetkililerinin veri aracı kurumlarından ve diğer üçüncü taraflardan ticari olarak temin edilebilen bilgileri satın alması yasaldır" dedi. “Eğer çok miktarda veri satın alıp yapay zekanın bunu analiz etmesine izin verirseniz, bu süreç aracılığıyla Amerikalıların kitlesel gözetimini gerçekleştirmiş olabilirsiniz. Bu durum şu anda yasalarca kısıtlanmamış veya yasaklanmamıştır.”

OpenAI, belirlediği "kırmızı çizgilerin" hem kurmayı planladığı teknik sistemler hem de Pentagon ile yaptığı sözleşmedeki ifadeler aracılığıyla uygulanacağını söylüyor. Şirket tarafından yayınlanan bir blog yazısına göre, sözleşme Savunma Bakanlığı'nın yapay zekayı "uygulanabilir yasalara, operasyonel gerekliliklere ve yerleşik güvenlik ve gözetim protokollerine uygun olarak, tüm yasal amaçlar için" kullanmasına izin verirken, Amerikalıların özel bilgilerinin sınırsız bir şekilde izlenmesini açıkça yasaklıyor.

Sorun şu ki, "yasal" sayılan şey değişebilir. OpenAI'nin sözleşmesi mevcut yasalara ve Savunma Bakanlığı politikalarına işaret ediyor, ancak bu politikalar gelecekte değiştirilebilir. Jain, "Yayınladıkları hiçbir şey, bu politikaların gelecekte değiştirilmesini engellemez" dedi.

Bazı eleştirmenler, mevcut istihbarat yetkililerinin zaten OpenAI'nin yasakladığını söylediği gözetim biçimlerine izin verdiğini savunuyor. Techdirt blogunun kurucusu Mike Masnick, sosyal medyada yaptığı açıklamada, anlaşmanın "kesinlikle iç gözetime izin verdiğini" belirterek, istihbarat teşkilatlarının ABD dışındaki iletişimleri toplamasına izin veren ve bu iletişimlerin tesadüfen elde edilmesi durumunda Amerikalıların verilerini de içerebilen uzun süredir yürürlükte olan 12333 sayılı Başkanlık Kararnamesine işaret etti.

Tartışmanın bir kısmı, farklı ulusal güvenlik faaliyetlerini düzenleyen ABD yasalarının belirli bölümleri etrafında dönüyor. ABD ordusunun eylemleri genellikle ABD Federal Kanunu'nun 10. Başlığı tarafından yönetilir. Bu, Savunma İstihbarat Teşkilatı ve ABD Siber Komutanlığı'nın askeri operasyonları desteklemek için yaptığı çalışmaları içerir.

Ancak DIA'nın çalışmalarının bir kısmı, genellikle gizli istihbarat toplama ve gizli eylemleri düzenleyen ABD Kanunu'nun 50. Başlığı olan ABD yasasının farklı bir bölümüne girer. Merkezi İstihbarat Teşkilatı ve Ulusal Güvenlik Ajansı'nın çalışmaları da genellikle 50. Başlık kapsamına girer. Özellikle gizli eylemler olmak üzere, en hassas 50. Başlık faaliyetlerinden bazıları büyük ölçüde perde arkasında yürütülür ve başkanlık onayı gerektirir. Hafta sonu yayınlanan bir blog yazısında OpenAI, Pentagon ile yaptığı anlaşmanın ayrıntılı bir açıklamasını paylaştı ve tanınmış bir OpenAI araştırmacısı olan Noam Brown'ın sosyal medyada yaptığı bir paylaşıma göre, şirketin ulusal güvenlik ortaklıkları başkanı Katrina Mulligan, Brown'a OpenAI'nin sözleşmesinin istihbarat topluluğunun 50. Madde kapsamındaki çalışmalarını kapsamadığını söyledi; bu da eleştirmenlerin en büyük endişe kaynaklarından biri. OpenAI temsilcileri, Fortune'un yorum talebine hemen yanıt vermedi.

Ancak hukuk uzmanları, 10. Madde ve 50. Madde kapsamındaki faaliyetler arasındaki ayrımın giderek bulanıklaştığını belirtiyor. Uygulamada, ikisi çok benzer görünebilir ve her ikisi de yabancı aktörler hakkında veri analizi veya kalıpların izlenmesini içerebilir. Ancak bu örtüşme, OpenAI gibi şirketler için gri bir alan yaratıyor: 50. Madde kapsamındaki çalışmaları yasaklayan bir sözleşme, DIA gibi 10. Madde kapsamındaki kurumların ticari olarak mevcut veya sınıflandırılmamış veri kümelerini analiz etmek için yapay zekayı kullanmasını otomatik olarak engellemiyor.

Jain, “Eğer sistemlerinin 50. Madde kapsamındaki hiçbir faaliyette kullanılamayacağını söylüyorlarsa, bu yapay zeka sisteminin kullanılabileceği faaliyetlerin kapsamını daraltır,” dedi. “Ancak bu sorunu çözmez.”

Kaynak: Fortune