Yapay Zeka Kişiselleştirmesinin Tehlikeleri

[™ Admin]

Yapay Zeka Kişiselleştirmesinin Tehlikeleri

2025'in başlarında aylarca, Reddit'teki sıkı sıkıya bağlı bir çevrimiçi topluluk, farkında olmadan yapay zeka tarafından istila edilmişti. İnsanların iyi niyetli tartışmalar yaptığı, fikirlerini paylaştığı ve insanları aksi yönde ikna etmeye davet ettiği sosyal platformun bir köşesiydi.

Ve The Atlantic'teki bir rapora göre, araştırmacılar yapay zekayı gerçek insanların fikirlerini değiştirebilecek kadar güçlü argümanlar üretip üretemeyeceğini görmek için burada serbest bıraktılar. Bunu başarabileceğini gördüler.

Alıntı

"Yapay zeka kişiselleştirmesinin tehlikeleri", deneyimleri ve içeriği bireysel kullanıcılara göre uyarlamak için yapay zekaya aşırı güvenmenin yol açabileceği olası olumsuz sonuçlara atıfta bulunur.

Kişiselleştirme, kullanıcı katılımını artırabilir ve etkileşimleri daha alakalı hale getirebilirken, gizlilik ihlalleri, algoritmik önyargı, yankı odalarının oluşturulması ve insan etkileşiminde ve eleştirel düşünmede düşüş gibi sorunlara da yol açabilir.

Ancak bu özellikle ihlal edici hissettirdi çünkü bazen yapay zekaya, mesajları özellikle benzersiz kimliklerine göre uyarlamak için insanların çevrimiçi geçmişlerine erişim izni veriliyordu.

Davranış bilimcileri bu iletişim taktiğine "kişiselleştirilmiş ikna" adını veriyor ve bazen kişiselleştirilmiş bir yaklaşım çekici olabilir. Kim alakasız çöp yığını yerine benzersiz ilgi alanlarıyla ilgili içerik istemez ki?

Ancak AI, Reddit'teki AI hesaplarının yaptığı gibi, kolayca tanımlanabilir özelliklere dayalı bir mesajı gevşek bir şekilde uyarlamaktan çok daha endişe verici bir şeyin eşiğinde.

"Derin uyarlama" dediğimiz şeyi başarabilirse, çevrimiçi dünyalarımıza fark edilmeden sızmaya başlayabilir, özümüzde kim olduğumuzu öğrenebilir ve bu kişisel bilgileri, hoş karşılanmayan ve zararlı olabilecek şekillerde inançlarımızı ve fikirlerimizi zorlamak için kullanabilir.

İkna psikolojisini inceleyen profesörler olarak, yakın zamanda kişiselleştirilmiş ikna üzerine kapsamlı bir kitapta dünyanın önde gelen uzmanlarından en son araştırmaları toplamaya yardımcı olduk.

Bizim görüşümüze göre, iletişimciler mesajları hedef kitleleri hakkındaki temel bilgilere göre uyarlamaktan faydalanabilseler de, derin uyarlama bu tür kolayca erişilebilir bilgilerin çok ötesine geçer. Mesajı kişiselleştirmek için bir kişinin temel psikolojisini, yük taşıyan inançlarını, kimliklerini ve ihtiyaçlarını kullanır.

Örneğin, mesajlar bir kişinin en önemli ahlaki değerleriyle rezonansa girdiğinde daha ikna edici olur. Bir şey birçok nedenden dolayı etik veya etik dışı olarak değerlendirilebilir, ancak insanlar kendi ahlaki pusulaları için hangi nedenlerin en önemli olduğu konusunda farklılık gösterir.

Örneğin, daha politik olarak liberal görüşlere sahip kişiler adalete daha fazla önem verme eğilimindedir, bu nedenle bir politikanın eşitlikçi olduğuna dair argümanlara daha fazla ikna olurlar. Öte yandan, daha politik olarak muhafazakar kişiler topluluklarına olan sadakate daha fazla önem verme eğilimindedir, bu nedenle bir mesaj bir politikanın grup kimliklerini desteklediğini savunduğunda daha fazla ikna olurlar.

Yeni bir fikir gibi görünse de, bilgisayar bilimcileri onlarca yıldır yapay zeka destekli ikna üzerinde çalışıyorlar. İçimizden biri yakın zamanda IBM'in "Project Debater" adlı podcast'inde bir yapay zeka sistemini tartışma için eğitmek ve bunu uzman insan tartışmacılarla tekrar tekrar geliştirmek için yıllarca harcadı. 2019'da canlı bir etkinlikte, bir insan dünya şampiyonu tartışmacıyı yendi.

Kullanıcı dostu ChatGPT mobil uygulaması gibi erişilebilir yapay zeka araçlarının yükselişiyle, herkes kendi ikna edici hedefleri için yapay zekadan yararlanabilir. Araştırmacılar, genel AI tarafından üretilen mesajların insan tarafından üretilenler kadar ikna edici olabileceğini gösteriyor.

Peki "derin uyarlama"yı başarabilir mi?

AI'nın otonom derin uyarlamayı kitlesel ölçekte uygulayabilmesi için, iki şeyi birlikte yapması gerekecek ve bunu yapmaya hazır görünüyor. İlk olarak, hangi kaldıraçları çekeceğini bilmek için bir kişinin temel psikolojik profilini öğrenmesi gerekiyor. Zaten yeni kanıtlar, AI'nın insanların kişiliklerini Facebook gönderilerinden makul derecede doğru bir şekilde tespit edebileceğini gösteriyor. Ve bununla da kalmayacak.

Columbia Business School profesörü ve Mindmasters kitabının yazarı Dr. Sandra Matz bize bir podcast'te şunları söyledi: "Tahmin etmeye çalıştığınız hemen hemen her şey, insanların dijital ayak izlerine dayanarak bir miktar doğrulukla tahmin edilebilir."

İkinci adım, bu temel psikolojik profillerle rezonansa giren mesajlar geliştirmektir. Aslında, yeni araştırmalar GPT'nin insanların kişiliklerine, değerlerine ve motivasyonlarına göre uyarlanmış reklamlar geliştirebileceğini ve bunların özellikle tasarlandıkları kişiler için ikna edici olduğunu bulmuştur.

Örneğin, sadece "ayakları yere basan ve geleneksel biri için" bir reklam üretmesini istemek, ürünün "bankayı kırmayacağı ve yine de işi yapacağı" argümanıyla sonuçlandı ve bu, kişilikleri hedeflenen kişiler için güvenilir bir şekilde daha ikna ediciydi.

Bu sistemler giderek daha karmaşık hale gelecek ve görsel deepfake'lere, manipüle edilmiş ses kalıplarına ve dinamik insan-AI konuşmalarına derin uyarlama uygulayacak. Peki, insanları kişiselleştirmenin gücünden korumak için ne yapılabilir?

Tüketici tarafında, çevrimiçi olarak kişiselleştirilmiş iletişimin gerçekleştiğinin farkında olmakta fayda var. Bir şey sadece sizin için uyarlanmış gibi hissettirdiğinde, aslında öyle olabilir. Ve çevrimiçi olarak kendinizden çok fazla şey ifşa etmediğinizi hissetseniz bile, tıkladığınız, ziyaret ettiğiniz ve aradığınız şeyler aracılığıyla yine de sessiz ipuçları bırakırsınız.

Hizmet şartlarını dikkatlice okumadığınızı kabul ettiğinizde, reklam verenlere bu bilgileri kullanma izni vermiş bile olabilirsiniz. Çevrimiçi davranışlarınızı gözden geçirmek ve VPN gibi araçlar kullanmak, benzersiz psikolojinize göre uyarlanmış mesajlardan korunmanıza yardımcı olabilir.

Ancak yük yalnızca tüketicilerde değildir. Platformlar ve politika yapıcılar, içeriği kişiselleştirilmiş olarak etiketleyen ve belirli bir mesajın belirli bir kişiye neden iletildiği hakkında bilgi sağlayan düzenlemeleri dikkate almalıdır. Araştırmalar, insanların kullanılan taktikleri bildiklerinde etkiye daha iyi direnebildiklerini göstermektedir.

Ayrıca, kişiselleştirilmiş içerik için kullanılabilecek veri türleri konusunda net korumalar olmalı ve olası kişiselleştirme derinliği sınırlandırılmalıdır. İnsanlar genellikle çevrimiçi olarak kişiselleştirilmiş içeriğe açık olsalar da, veri gizliliği konusunda endişelidirler ve bu iki tutum arasındaki çizgiye saygı gösterilmelidir.

Bu tür korumalara rağmen, en ufak bir iletişim avantajı, özellikle kitlesel ölçekte kullanıldığında, yanlış ellerde endişe vericidir. Bir pazaryerinin benzer alışveriş geçmişine sahip kişiler tarafından satın alınan ürünleri önermesi bir şeydir, ancak farkında olmadan ruhunuzu parçalayan ve onu yanlış bilgiye dönüştüren kılık değiştirmiş bir bilgisayarla karşılaşmak bambaşka bir şeydir.

Herhangi bir iletişim aracı iyi veya kötü amaçlar için kullanılabilir, ancak bu araçlar dizginlenemeyecek kadar karmaşık hale gelmeden önce iletişimde yapay zekanın etik kullanımına ilişkin politikayı ciddi şekilde tartışmaya başlamanın zamanı geldi.

Kaynak: Time