Yüz değiştiren bir uygulama, derin sahte teknolojinin kadınlara karşı bir 'silah' olarak ne kadar kolay kullanılabileceğini gösteriyor

Yüz değiştiren bir uygulama, derin sahte teknolojinin kadınlara karşı bir 'silah' olarak ne kadar kolay kullanılabileceğini gösteriyor

Uygulama mağazaları, Emma Watson'ın yüzünü müstehcen bir videoya yerleştiren derin sahte bir uygulama olan Facemega'yı kaldırdı.

Müstehcen reklam, daha sonra NBC News'ten gelen haberin ardından kaldırılan Meta'da tanıtıldı.

Bir avukat, yeni deepfake teknolojisinin kadınlara ve kız çocuklarına karşı bir taciz "silahı" haline gelebileceğini söyledi.

Birden fazla çevrimiçi mağaza ve Meta, "Harry Potter" oyuncusu Emma Watson'ın başka birine empoze ettiği müstehcen bir reklamın tanıtımını yapan tartışmalı bir yüz takas uygulamasını kaldırdı.

Facemega adlı deepfake oluşturma uygulaması, Watson'ın yüzünü cilveli bir şekilde gülümseten ve ardından erkek gibi görünen bir şey için dizlerinin üstüne çöken bir kadını gösterdi. Başlıkta şöyle yazıyordu: "Herhangi bir yüzü videoyla değiştirin!" Twitter'da yayınlanan reklamın ekran kaydı 3,2 milyon kez görüntülendi.

Deepfakes, videolarda ve diğer dijital ortamlarda bir kişinin benzerliğini bir başkasıyla değiştirmek için yapay zeka kullanır ve bunun kullanımı etik ve mahremiyet endişelerini artırmıştır.

Bir avukat, Insider'a bunun, ortaya çıkan deepfake teknolojisinin kadınlara ve kızlara karşı nasıl bir "silah" olarak kullanılabileceğinin yalnızca bir örneği olduğunu söyledi.

Konuyla ilgili daha önce materyal yayınlamış bir avukat olan Michael Farhi, Insider'a AI kullanımının "tüm dünyada çevrimiçi kadınlara karşı bir silah olma konusunda büyük bir sıçrama ile sonuçlanacağını" söyledi. Kadınların bu tür tacizlerle hedef alınacak en popüler nüfus olduğunu da sözlerine ekledi.

Farhi, derin sahtekarlıklar ve intikam pornosu zaten kadınlar için tehdit oluşturuyor ve sahte videoların inandırıcı bir şekilde gerçek görünmesini sağlayabilen AI teknolojisinin olumsuz etkileri "dört katına" çıkaracağını söyledi.

Facemega reklamı, uygulamanın provokatif videolarda Scarlett Johansson'ın yüzünün olduğu reklamlar yayınladığını bildiren NBC News tarafından site tarafından kaldırılana kadar Facebook'ta yayınlandı. Facemega, Apple ve Google Play'de ücretsiz olarak listelendi ve ikisi de o zamandan beri onu kaldırdı, ancak benzer uygulamalar her iki mağazada da listelenmeye devam ediyor.

Apple'ın bir sözcüsü, Insider'a şirketin uygulamayı Apple Store'dan kaldırdığını ve şirketin başkalarını küçük düşürmeyi amaçlayan karalayıcı, pornografik veya kötü niyetli içerik içeren uygulamalara izin vermediğini söyledi. Bir Google sözcüsü, şirketin "uygun önlemi" aldığını ve uygulamayı "politikalarımızı ihlal ettiği" gerekçesiyle kaldırdığını söyledi.

Bir Meta sözcüsü, Insider'a "politikalarının, yapay zeka tarafından üretilip üretilmediğine bakılmaksızın yetişkinlere uygun içeriği yasakladığını" ve FaceMega'nın sayfasının Facebook'ta kısıtlandığını söyledi.

Yorum için Watson'ın yasal temsilcisine ulaşılamadı.

Müstehcen reklamın, Facemega'nın, kullanıcıların iftira niteliğinde veya müstehcen içerik yüklemesini yasaklayan kendi hizmet şartlarını ve koşullarını ihlal ettiği görüldü.

Çinli yazılım şirketi Wondershare, Facemega'nın sahibi, şirket sözcüsü Insider'a doğruladı. Reklamla ilgili soru sorulduğunda Wondershare sözcüsü, "Hukuk departmanımız bu konuyu zaten takip ediyor ve reklam içeriği de raflardan kaldırıldı" dedi.

Avukat, Deepfake teknolojisinin kadınlara karşı 'silah' olarak kullanılacağını söyledi

Farhi, Insider'a ABD'de derin sahte porno kurbanlarının "iftira, mahremiyet ihlali, duygusal sıkıntı yaratma gibi potansiyel iddiaları var" dedi. Ancak Çinli bir şirkete karşı uluslararası yasal işlem başlatmanın bir "engel" olacağını da söyledi.

"ABD'nin herhangi bir yerindeki bir avukat, Çin'deki bir varlığa ihtarname tipi bir mektup gönderiyorsa, uygun şekilde tercüme edilse bile, bunun pratik bir mesele olarak çok az etkisi olacaktır veya hiç etkisi olmayacaktır. Öyleyse bundan sonra nereye gideceksiniz? Siz gidin Farhi, ne yayınladığı ve hangi reklamları koyduğu konusunda kendine özgü zorlu kuralları ve düzenlemeleri olan Facebook'a.

Farhi, içeriği paylaşan şirketlere yönelik kamuoyu baskısının yasal işlemlerden daha etkili olabileceğini söyledi. "Teknolojideki gelişmeler yasalaştırılamayacak kadar hızlı oluyor" diye ekledi. Deepfake teknolojisi, tüm teknolojik gelişmeler gibi, "artıları ve eksileri" ile birlikte gelir, ancak Farhi, potansiyel zararların "halı altına süpürüldüğünü" söyledi.

Farhi, "Yapay zekanın savunucuları, elbette, anında araştırma ve iş yerinde anında yardım alacağınız fikrini öne sürüyorlar. Yaratıcılar için bu harika bir varlık ve harika bir araç," dedi. "Kadınlara zarar vermek için bir araç ya da silah olarak şu anda orada olandan bile daha fazla kahrolası bir kabus olacak."

Farhi, özellikle savunmasız bir grubun, intikam ve derin sahte pornoları zaten düzenli olarak bombalayan genç kızlar olabileceğini söyledi.

"Bu, anlatılamaz sayıda kız ve kadına gerçek zarar verecek. Sadece lisede değil, liseden önce ilkokul veya ortaokul seviyesinde, yirmili, otuzlu ve daha ileri yaştaki kadınlara kadar. " dedi Farhi. "Ve bunu yapmak ne kadar kolaysa veya bir yırtıcı hayvan için o kadar kolaysa - ve çok daha kolay olacak - o kadar çok yapılacak."

Kaynak: Insider