ŞOK İDDİA: YAPAY ZEKÂ KULLANDIĞINIZI ARTIK HERKES ANLAYACAK! ANTHROPIC'TEN SESSİZ SEDASIZ GİZLİ MÜHÜR DÖNEMİ!

ŞOK İDDİA: YAPAY ZEKÂ KULLANDIĞINIZI ARTIK HERKES ANLAYACAK! ANTHROPIC'TEN SESSİZ SEDASIZ GİZLİ MÜHÜR DÖNEMİ!

Yapay zekâ devi Anthropic, popüler sohbet robotu Claude’un ürettiği metin ve görsellere insan gözüyle görülemeyen "gizli filigranlar" eklemeye başlıyor. Şirketin Avrupa Birliği (AB) Yapay Zekâ Yasası’na uyum sağlamak ve interneti kaplayan kalitesiz yapay zekâ içerikleriyle ("AI slop") mücadele etmek için aldığı bu karar, kullanıcılar arasında büyük panik ve tartışma yarattı.

İşte haberin tüm ayrıntıları ve merak edilenler:

Görünmez Mühür Nasıl Çalışacak?

• Görsellerde: Yapay zekâ tarafından oluşturulan resimlere, insan gözünün fark edemeyeceği fakat otomatik tarama sistemlerinin anında yakalayacağı dijital ipuçları yerleştiriliyor. Ancak ekran görüntüsü almak veya resmi dönüştürmek bu filigranı silebiliyor.

• Metinlerde: Anthropic, metnin anlamını, kalitesini veya okunabilirliğini bozmadan kelime seçimlerine gizli istatistiksel izler bırakacak. Belirli kelimelerin kullanım sıklığına dayalı bu yöntem dışarıdan bakıldığında anlaşılamayacak ancak analiz araçları tarafından tespit edilebilecek.

Kendi Yazdığınız Metin Bile "Yapay Zekâ Yapımı" Sayılabilir!

En çok tartışma yaratan konu ise metin düzenlemeleri oldu. Şirket; orijinali size ait olan bir metni Claude’a düzeltmesi için verdiğinizde bile bu görünmez işaretin metne işleneceğini doğruladı.

Anthropic bu konuda şu uyarılarda bulundu:

• Kesin Kanıt Değil: Metinde işaret bulunması, içeriğin Claude tarafından işlendiğini gösterir; ancak metnin tamamının yapay zekâ tarafından yazıldığını tek başına kanıtlamaz.

• İşaret Olmaması da Garantör Değil: Bir metinde filigran bulunmaması, o metnin insan elinden çıktığı anlamına gelmez. Metin çok kısa olabilir, üzerinde ağır düzenlemeler yapılmış olabilir veya filigran sisteminden önceki bir modelle yazılmış olabilir.

Neden Şimdi?

Özellikle AB’nin yeni yasal zorunlulukları ve internetin içerik çöplüğüne dönmesi şirketleri bu adımı atmaya zorladı. Anthropic, sistemin manipüle edilmesini önlemek amacıyla filigranların tam teknik detaylarını gizli tutuyor.

Söz konusu görünmez işaretler, şirketin 2 Ağustos tarihinden sonra çıkan yeni modellerinde uygulanmaya başlandı ve kademeli olarak eski modellere de eklenecek.

Kaynak: TI