Bir Teknik İpucu: Yapay zeka tarafından oluşturulan derin sahte görüntüler nasıl tespit edilir

Bir Teknik İpucu: Yapay zeka tarafından oluşturulan derin sahte görüntüler nasıl tespit edilir

LONDRA (AP) — Yapay zeka sahtekarlığı hızla çevrimiçi ortamda karşı karşıya kaldığımız en büyük sorunlardan biri haline geliyor. Üretken yapay zeka araçlarının yükselişi ve kötüye kullanılmasının bir sonucu olarak aldatıcı resimler, videolar ve sesler hızla çoğalıyor.

Taylor Swift'ten Donald Trump'a kadar herkesi tasvir eden AI deepfake'leri neredeyse her gün ortaya çıktıkça, neyin gerçek olduğunu neyin olmadığını söylemek zorlaşıyor. DALL-E, Midjourney ve OpenAI'nin Sora'sı gibi video ve görüntü oluşturucular, herhangi bir teknik beceriye sahip olmayan kişilerin deepfake oluşturmasını kolaylaştırıyor; yalnızca bir istek yazın ve sistem bunu gerçekleştirsin.

Bu sahte görüntüler zararsız görünebilir. Ancak dolandırıcılık ve kimlik hırsızlığı veya propaganda ve seçim manipülasyonu gerçekleştirmek için kullanılabilirler.
Deepfake'ler tarafından kandırılmaktan nasıl kaçınacağınız aşağıda açıklanmıştır:

DEEPFAKE (Derin Sahte Görüntü)  NASIL TESPİT EDİLİR

Deepfake'in ilk günlerinde teknoloji mükemmel olmaktan uzaktı ve çoğu zaman manipülasyon belirtileri bırakıyordu. Doğrulayıcılar, altı parmaklı eller veya farklı şekilli lenslere sahip gözlükler gibi bariz hataların olduğu görsellere dikkat çekti.

Ancak yapay zeka geliştikçe bu çok daha zor hale geldi. Latent Space Advisory danışmanlık firmasının kurucusu ve üretken yapay zeka alanında önde gelen uzmanlardan Henry Ajder, derin sahte videolarda insanlar arasındaki doğal olmayan göz kırpma kalıplarını aramak gibi yaygın olarak paylaşılan bazı tavsiyelerin artık geçerli olmadığını söyledi.

Yine de aranacak bazı şeyler var dedi.

Ajder, pek çok AI deepfake fotoğrafının, özellikle de insanlara ait elektronik bir parlaklığa sahip olduğunu, cildin "inanılmaz derecede parlak görünmesini sağlayan estetik bir tür yumuşatma etkisi" olduğunu söyledi.

Ancak yaratıcı yönlendirmenin bazen bunu ve diğer birçok yapay zeka manipülasyonu işaretini ortadan kaldırabileceği konusunda uyardı.

Gölgelerin ve ışıklandırmanın tutarlılığını kontrol edin. Çoğu zaman konu net bir odak noktasındadır ve ikna edici derecede gerçekçi görünür ancak arka plandaki öğeler o kadar gerçekçi veya gösterişli olmayabilir.

YÜZLERE BAKIN

Yüz değiştirme, en yaygın deepfake yöntemlerinden biridir. Uzmanlar yüzün kenarlarına yakından bakmayı tavsiye ediyor. Yüz derisinin tonu başın veya vücudun geri kalanıyla eşleşiyor mu? Yüzün kenarları keskin veya bulanık mı?

Konuşan bir kişinin videosunda değişiklik yapıldığından şüpheleniyorsanız ağzına bakın. Dudak hareketleri sesle mükemmel bir şekilde eşleşiyor mu?

Ajder dişlere bakmayı öneriyor. Net mi, yoksa bulanık mı ve gerçek hayattaki görünüşleriyle bir şekilde tutarlı değil mi?

Siber güvenlik şirketi Norton, algoritmaların henüz bireysel dişler oluşturacak kadar karmaşık olmayabileceğini, dolayısıyla bireysel dişlerin ana hatlarının eksikliğinin bir ipucu olabileceğini söylüyor.

BÜYÜK RESMİ DÜŞÜNÜN

Bazen bağlam önemlidir. Gördüğünüz şeyin makul olup olmadığını düşünmek için bir dakikanızı ayırın.

Poynter gazetecilik web sitesi, kamuya mal olmuş bir kişinin "abartılı, gerçekçi olmayan veya karakterine uygun olmayan" bir şey yaptığını görürseniz, bunun bir deepfake olabileceğini tavsiye ediyor.

Örneğin, papa gerçekten de kötü şöhretli sahte bir fotoğrafta gösterildiği gibi lüks bir şişme ceket mi giyiyor? Öyle olsaydı meşru kaynaklar tarafından yayınlanan ek fotoğraf veya videolar olmaz mıydı?

SAHTELERİ BULMAK İÇİN Yapay Zekayı Kullanmak

Diğer bir yaklaşım ise yapay zekayla savaşmak için yapay zekayı kullanmaktır.

Microsoft, fotoğrafları veya videoları analiz ederek, üzerinde oynanıp oynanmadığına dair bir güven puanı verebilen bir kimlik doğrulama aracı geliştirdi. Chipmaker Intel'in FakeCatcher'ı, bir görüntünün gerçek mi yoksa sahte mi olduğunu belirlemek amacıyla görüntünün piksellerini analiz etmek için algoritmalar kullanıyor.

Bir dosya yüklerseniz veya şüpheli materyale bir bağlantı yapıştırırsanız sahte olanları tespit etmeyi vaat eden çevrimiçi araçlar vardır. Ancak Microsoft'un kimlik doğrulayıcısı gibi bazıları yalnızca seçilen ortakların kullanımına açıktır, halka açık değildir. Bunun nedeni, araştırmacıların kötü aktörleri uyarmak ve onlara derin sahte silahlanma yarışında daha büyük bir avantaj sağlamak istememeleridir.

Ajder, tespit araçlarına açık erişimin, insanlara bunların "eleştirel düşünmeyi bizim için dış kaynak olarak kullanabilen tanrısal teknolojiler" olduğu izlenimini verebileceğini, ancak bunun yerine sınırlamalarının farkında olmamız gerektiğini söyledi.

SAHTE ÜRÜNLERİ BULMANIN ENGELLERİ

Bütün bunlar söyleniyor, yapay zeka baş döndürücü bir hızla ilerliyor ve yapay zeka modelleri, daha az kusurla giderek daha yüksek kalitede içerik üretmek için internet verileri üzerinde eğitiliyor.

Bu, bu tavsiyenin bundan bir yıl sonra bile geçerli olacağının garantisinin olmadığı anlamına geliyor.

Uzmanlar, sıradan insanlara dijital Sherlock olma yükünü yüklemenin bile tehlikeli olabileceğini, çünkü eğitimli gözler için bile derin sahtekarlıkları fark etmenin giderek zorlaşması nedeniyle onlara sahte bir güven duygusu verebileceğini söylüyor.

Kaynak: AP