Anthropic: Gizli ortamlardaki yapay zeka için 'kapatma düğmesi' yok

Anthropic: Gizli ortamlardaki yapay zeka için 'kapatma düğmesi' yok

Yeni bir mahkeme dosyasına göre, Anthropic, yapay zekâ modellerinin Pentagon tarafından konuşlandırıldıktan sonra kontrol etme veya kapatma imkanının olmadığını söylüyor.

Neden önemli: Pentagon, yapay zekâ firması Anthropic'i tedarik zinciri riski olarak belirledi ve şirketin teknolojisinin hassas askeri operasyonlarda nasıl kullanılabileceği konusunda uygunsuz bir şekilde müdahil olduğunu iddia etti.

İçerik: Anthropic, Washington'daki bir federal temyiz mahkemesine yaptığı başvuruda, teknolojisi konuşlandırıldıktan sonra hiçbir görünürlüğe, teknik yeteneğe veya herhangi bir "kapatma düğmesine" sahip olmadığını savunuyor.

• Şirket ayrıca, Pentagon'un konuşlandırmadan önce modelleri test etme fırsatına sahip olduğunu da belirtiyor.

Özetle: Şirketin kullanım politikaları, otonom silahlar veya kitlesel gözetim için Claude'un kullanılmamasını içeriyor; bu, Pentagon'un yanıltıcı olarak nitelendirdiği ve anlaşmazlığa yol açan kırmızı çizgilerdir.

• Washington mahkemesi daha önce Anthropic'in tedarik zinciri riski belirlemesinin durdurulması talebini reddetmişti. Kaliforniya'da devam eden paralel bir davada yargıç, Anthropic'in talebini kabul etti.

• Bölünmüş karar, Anthropic'in yeni Pentagon sözleşmelerine katılamayacağı, ancak dava süreci devam ederken diğer devlet kurumlarıyla çalışmaya devam edebileceği anlamına geliyor.

Sürtüşme noktası: Pentagon, Trump yönetiminin yeni Mythos modelini federal hükümet genelinde uygulamaya geçirmesiyle birlikte Anthropic'in tedarik zinciri riski oluşturduğunu mahkemede savunuyor.

• Şimdi, kurum başkanları, Mythos kullanarak sistemlerini siber saldırılardan nasıl koruyabileceklerini bulmaya çalışıyorlar; bu da yönetimin şirketin ulusal güvenlik riski oluşturduğu argümanını potansiyel olarak karmaşıklaştırıyor.

Sırada ne var: 19 Mayıs'ta bir duruşma planlanıyor.

Kaynak: Axios AI