Uzmanlar, yapay zekanın internet veya çevrimiçi ortamdaki güvenin "çöküşünü" hızlandırdığını söylüyor

Uzmanlar, yapay zekanın internet veya çevrimiçi ortamdaki güvenin "çöküşünü" hızlandırdığını söylüyor

Yıllarca insanlar, en azından içgüdüsel olarak, gördüklerine büyük ölçüde güvenebiliyorlardı. Artık sahte olan genellikle gerçek gibi görünüyor ve gerçek olan da genellikle sahte gibi görünüyor.

2026 yılının ilk haftasında, yapay zekadaki gelişmeler sayesinde birçok medya uzmanının aşılması zor olacağını söylediği bir bilmece haline geldi bile bu durum.

Başkan Donald Trump'ın Venezuela operasyonu, yapay zeka tarafından üretilen görüntülerin, eski videoların ve değiştirilmiş fotoğrafların sosyal medyada hızla yayılmasına neden oldu. Çarşamba günü, bir Göçmenlik ve Gümrük Muhafaza (ICE) memurunun bir kadını arabasında vurarak öldürmesinin ardından, birçok kişi çevrimiçi ortamda, gerçek videoya dayalı olduğu anlaşılan, muhtemelen yapay zeka ile düzenlenmiş sahte bir görüntüyü paylaştı. Diğerleri ise, kadını vuran ICE memurunun maskesini dijital olarak kaldırmak için yapay zekayı kullandı.

Yapay zeka içeriğiyle ilgili kafa karışıklığı, içerik üreticilerine etkileşim için ödeme yapan birçok sosyal medya platformunun, kullanıcıları viral haber anları etrafında duyguları artırmak için eski fotoğraf ve videoları yeniden kullanmaya teşvik etmesiyle birlikte ortaya çıkıyor. Uzmanlar, yanlış bilgilendirme karışımının, özellikle otantik kanıtlarla karıştığında, çevrimiçi ortamda güvenin daha da aşınmasına neden olduğunu söylüyor.

Stanford Sosyal Medya Laboratuvarı'nın kurucu direktörü Jeff Hancock, "Yapay zeka konusunda endişelenmeye başladıkça, en azından kısa vadede, güven varsayımımızı baltalayacak - yani, inanmamak için bir nedenimiz olana kadar iletişime inanmamız gerektiği varsayımını" dedi. "En büyük zorluk bu olacak, bir süre insanlar dijital ortamlarda gördükleri şeylere gerçekten güvenmeyecekler."

Yapay zeka, artan yanlış bilgilendirme konusunda endişe uyandıran en son teknoloji olsa da, benzer güven kırılmaları tarihte döngüsel olarak yaşanmıştır; 2016'daki seçim yanlış bilgilendirmesinden, 1400'lerde matbaanın icadından sonra propaganda kitlesel üretimine kadar. Yapay zekadan önce Photoshop vardı ve Photoshop'tan önce de analog görüntü manipülasyon teknikleri vardı.

Hancock, hızlı gelişen haber olaylarının, manipüle edilmiş medyanın en büyük etkiye sahip olduğu yerler olduğunu, çünkü geniş bilgi eksikliğini doldurduğunu söyledi.

Cumartesi günü Trump, doğrulanmış Truth Social hesabında, görevden alınan Venezuela lideri Nicolás Maduro'nun bir Donanma saldırı gemisinde gözleri bağlı ve kelepçeli olduğu bir fotoğrafı paylaştı. Kısa bir süre sonra, yakalanmayla ilgili doğrulanmamış görüntüler - bazıları daha sonra yapay zeka tarafından üretilen videolara dönüştürüldü - diğer sosyal medya platformlarını doldurmaya başladı. Gerçek kutlamalar yaşanırken, X'in sahibi Elon Musk da, Venezuelalıların Maduro'nun yakalanması nedeniyle ABD'ye teşekkür ettiği yapay zeka tarafından oluşturulmuş gibi görünen bir videoyu paylaşanlar arasındaydı.

Yapay zeka tarafından üretilen kanıtlar şimdiden mahkeme salonlarına girmiş durumda. Yapay zeka deepfake'leri de yetkilileri kandırdı; geçen yılın sonlarında, çevrimiçi ortamda yapay zeka tarafından üretilen bir dizi video, Ukraynalı askerlerin Rus halkından özür dilediğini ve topluca Rus kuvvetlerine teslim olduğunu gösteriyordu.

Hancock, çevrimiçi ortamdaki yanlış bilgilendirmelerin çoğunun hala gerçek medyayı yanlış amaçlarla kullanarak sahte anlatılar oluşturmak gibi daha geleneksel yollarla yayılmasına rağmen, yapay zekanın ateşe hızla daha fazla yakıt döktüğünü söyledi.

"Bir görüntüye veya videoya bakıldığında, sahte olup olmadığını tespit etmek esasen imkansız hale gelecek. Sanırım bu noktaya yaklaşıyoruz, hatta belki de zaten oradayız," dedi. "Eski yapay zeka okuryazarlığı fikirleri, 'parmak sayısına bakalım' gibi şeyler muhtemelen ortadan kalkacak."

Rhode Island Üniversitesi'nde iletişim çalışmaları profesörü olan Renee Hobbs, yapay zeka üzerine çalışan araştırmacılar için en büyük zorluğun, insanların çevrimiçi ortamdaki gerçek ve sentetik içeriğin muazzam hacmiyle başa çıkmaya çalışırken bilişsel yorgunluk yaşamaları olduğunu söyledi. Bu da gerçek olanı olmayandan ayırmayı zorlaştırıyor.

Hobbs, "Neye güvenileceği konusunda sürekli şüphe ve kaygı norm haline gelirse, o zaman aslında ilgisizlik mantıklı bir tepkidir. Bu bir başa çıkma mekanizmasıdır," dedi. "Ve insanlar bir şeyin doğru olup olmadığına önem vermeyi bıraktığında, tehlike sadece aldatma değil, aslında bundan daha da kötüsü. Gerçeği arama motivasyonunun tamamen çökmesidir."

O ve diğer uzmanlar, üretken yapay zekayı medya okuryazarlığı eğitimine nasıl entegre edeceklerini bulmaya çalışıyorlar. Örneğin, politika standartları geliştirmek için iş birliği yapan demokratik ülkelerin hükümetler arası bir kuruluşu olan Ekonomik İşbirliği ve Kalkınma Örgütü (OECD), 2029 yılında 15 yaşındakiler için küresel bir Medya ve Yapay Zeka Okuryazarlığı değerlendirmesi yayınlamayı planlıyor.

Üretken yapay zekayı benimsemiş bazı sosyal medya devleri bile, bunun insanların algoritmalarına sızmasından endişe duyuyor gibi görünüyor.

Instagram'ın başkanı Adam Mosseri, Threads'te yaptığı son bir paylaşımda, yapay zeka kaynaklı yanlış bilgilendirmenin platformlar arasında daha yaygın hale gelmesiyle ilgili endişelerine değindi.

"Hayatımın büyük bir bölümünde, gördüğüm fotoğrafların veya videoların büyük çoğunluğunun gerçek hayatta yaşanan anların büyük ölçüde doğru yansımaları olduğunu güvenle varsayabiliyordum," diye yazdı. “Bu durum artık açıkça böyle değil ve insanlar olarak buna uyum sağlamamız yıllar alacak.”

Mosseri, internet kullanıcılarının “gördüklerimizin varsayılan olarak gerçek olduğunu varsaymaktan, medya içeriği gördüğümüzde şüpheyle yaklaşmaya ve bir şeyi kimin paylaştığına ve neden paylaştığına çok daha fazla dikkat etmeye geçeceğini” tahmin etti. “Bu hepimiz için inanılmaz derecede rahatsız edici olacak çünkü genetik olarak gözlerimize inanmaya yatkınız.”

UC Berkeley Bilgi Okulu'nda bilgisayar bilimi profesörü olan Hany Farid, derin sahte tespitine ilişkin son araştırmalarının, insanların gerçek bir şeyin sahte olduğunu söyleme olasılığının, sahte bir şeyin gerçek olduğunu söyleme olasılığı kadar yüksek olduğunu gösterdiğini söyledi. İnsanlara siyasi alt tonlar içeren içerik gösterildiğinde doğruluk oranı önemli ölçüde kötüleşiyor; çünkü o zaman doğrulama yanlılığı devreye giriyor.

Farid, “Size dünya görüşünüze uyan bir şey gönderdiğimde, buna inanmak istersiniz. Buna inanmak için teşvik edilirsiniz,” dedi. “Ve eğer dünya görüşünüzle çelişen bir şeyse, 'Ah, bu sahte' deme konusunda yüksek derecede teşvik edilirsiniz. Ve bu partizanlığı da eklediğinizde, her şeyi alt üst ediyor.”

Buffalo Üniversitesi'nde bilgisayar bilimi profesörü olan Siwei Lyu, insanların ünlüler, politikacılar, aile üyeleri ve arkadaşlar gibi tanıdıkları kişilere hemen güvenme olasılıklarının daha yüksek olduğunu, bu nedenle bu figürlerin yapay zeka benzerlerinin daha gerçekçi hale geldikçe insanları kandırma olasılığının daha da artacağını söyledi.

DeepFake-o-meter adlı açık kaynaklı bir yapay zeka tespit platformunun bakımına yardımcı olan Lyu, sıradan internet kullanıcılarının sadece dikkat ederek yapay zeka tespit becerilerini geliştirebileceklerini söyledi. Karşılaştıkları her medya parçasını analiz etme yeteneğine sahip olmasalar bile, insanların en azından gördüklerine neden güvendiklerini veya güvenmediklerini kendilerine sormaları gerektiğini söyledi.

Lyu, “Birçok durumda, yanlış olan medyanın kendisi olmayabilir, ancak yanlış bağlamda veya tamamen güvenemeyeceğimiz biri tarafından paylaşılmış olabilir,” dedi. “Bu nedenle, genel olarak, ortak farkındalık ve sağduyu, sahip olduğumuz en önemli koruma önlemleridir ve özel bir eğitime ihtiyaç duymazlar.”

Kaynak: NBCN