SAVAŞ ALANINDA KORKUNÇ EŞİK AŞILDI: KATİL ROBOTLAR ARTIK KİMİN ÖLECEĞİNE KENDİSİ KARAR VERİYOR!

SAVAŞ ALANINDA KORKUNÇ EŞİK AŞILDI: KATİL ROBOTLAR ARTIK KİMİN ÖLECEĞİNE KENDİSİ KARAR VERİYOR!

Yapay zeka teknolojisi, savaş alanlarında geri dönülemez bir sınırın aşılmasına neden oldu. Birleşmiş Milletler (BM) ve Uluslararası Kızılhaç Komitesi (ICRC), hedefini bir insanın komutuna ihtiyaç duymadan kendi belirleyen ve saldıran otonom silah sistemlerinin artık bir geleçek senaryosu olmadığını, hızla yayılan somut bir tehdide dönüştüğünü açıkladı.

Savaş Alanından İlk Sinyaller: Yapay Zeka Sivilleri Vurdu mu?

Tamamen bağımsız çalışan katil dronlar henüz kitlesel olarak kullanılmasa da, cepheden gelen veriler teknolojinin halihazırda devreye girdiğini gösteriyor.

• Zaporijya’daki Olay: Ukrayna’da Rus yapımı bir Molniya dronunun benzin istasyonu yakınlarında üç sivili öldürdüğü bildirildi.

• Kritik İnceleme: Dronun kalıntılarını inceleyen uzmanlar, cihazda uzaktan kontrol sağlayan bir anten bulunmadığını; buna karşın Nvidia Jetson Orin işlemciler ve önceden tanımlanmış hedef algılama yazılımları olduğunu tespit etti.

• Uzman Görüşü: Bilgisayar bilimci Stuart Russell, dronun insan operatör yerine doğrudan bünyesindeki yapay zekayı kullanarak hedef seçip saldırdığını belirtti.

Asıl Tartışma: "İnsan Kontrolü" Nerede Başlıyor, Nerede Bitiyor?

Askeri otomasyon yeni bir kavram değil; ancak yeni nesil yapay zeka, "öldürme zinciri" adı verilen karar mekanizmasındaki insan faktörünü tamamen devre dışı bırakma riski taşıyor. Bu durum ülkeleri ve uzmanları büyük bir tanım kargaşasına sürüklüyor:

• Anlamlı İnsan Kontrolü (MHC): BM ve bağımsız kuruluşlar, ölümcül bir gücün tetiklenmesinde son kararın her zaman bir insanda olması gerektiğini savunuyor.

• Uygun İnsan Muhakemesi: ABD gibi askeri güçler ise her saldırının tek tek bir insan tarafından onaylanması yerine; silahın tasarımı, test edilmesi ve angajman kurallarının belirlenmesi aşamasında insan gözetiminin yeterli olduğunu öne sürüyor.

Bu durum şu kritik soruyu doğuruyor: Saldırı anında tetiği bir makine çekiyorsa, yazılım aşamasındaki insan kontrolü ne kadar geçerli sayılabilir?

BM ve Kızılhaç'tan Acil Çağrı: "Ahlaki Kırmızı Çizgi Aşılıyor"

Gelişen teknolojinin mevcut uluslararası hukuku geride bıraktığını vurgulayan BM ve ICRC, acil kısıtlamalar getirilmesi için harekete geçti. Kurumların talepleri ve uyarıları şu noktalarda toplanıyor:

1. Açık Yasaklar: İnsanları otonom olarak hedef alan ve sonuçları kestirilemeyen yapay zeka sistemleri tamamen yasaklanmalı veya katı sınırlandırmalara tabi tutulmalı.

2. Kırmızı Çizgi: Gelen bir füzeyi vurmak gibi savunma amaçlı otonom sistemler ile bir insanın yaşayıp yaşamayacağına karar veren sistemler bir tutulamaz.

3. Sorumluluk Karmaşası: Otonom bir silah sivil katliamı yaptığında suçun kime ait olacağı belirsizleşiyor: Programcı mı, üretici firma mı, komutan mı yoksa devleti yönetenler mi sorumlu tutulacak?

Yapay zeka destekli silahların maliyetinin düşmesi ve savaşlarda avantaj sağlaması, askeri güçlerin bu sistemlerden vazgeçmesini zorlaştırıyor. Ukrayna, Orta Doğu ve Sudan gibi çatışma bölgelerinde bu teknoloji hızla test edilirken, BM ve Kızılhaç kurallar koyulmadığı takdirde durumun kontrol edilemez bir noktaya geleceği konusunda uyarıyor.

Kaynak: ZME S