AI (Yapay Zeka) hakkında herkesin yanlış anladığı 3 şey

AI (Yapay Zeka) hakkında herkesin yanlış anladığı 3 şey

Satranç motorlarından Google çeviriye kadar yapay zeka, 20. yüzyılın ortalarından bu yana bir şekilde varlığını sürdürüyor. Ancak günümüzde teknoloji çoğu insanın anlayabileceğinden daha hızlı gelişiyor. Bu da sıradan insanları yapay zeka araçlarının neler yapabileceği ve bunların etkilerinden kimin sorumlu olduğu konusunda yanıltıcı iddialara karşı savunmasız bırakıyor.

Geliştirici OpenAI'nin gelişmiş bir sohbet robotu olan ChatGPT'nin gelişiyle birlikte insanlar, çoğunlukla e-postada otomatik yanıtı güçlendirmek, arama sonuçlarını iyileştirmek veya sosyal medyadaki içeriği denetlemek için kullanılan bir tür yapay zeka sistemi olan büyük dil modelleriyle doğrudan etkileşime girmeye başladı. Chatbot'lar insanların soru sormasına veya sistemin şiirlerden programlara kadar her şeyi yazmasını istemesine olanak tanıyor. Dall-E gibi görüntü oluşturma motorları da popülerlik kazandıkça, işletmeler yapay zeka araçları eklemek için çabalıyor ve öğretmenler yapay zeka tarafından yazılan ödevleri nasıl tespit edecekleri konusunda endişeleniyor.

Yapay zekayla ilgili yeni bilgi ve varsayım seli, çeşitli riskleri artırıyor. Şirketler yapay zeka modellerinin neler yapabileceğini ve ne için kullanılabileceğini abartıyor olabilir. Destekleyenler, dikkati daha acil tehditlerden uzaklaştıracak bilim kurgu hikayelerini öne çıkarabilirler. Ve modellerin kendisi de yanlış bilgileri yeniden ortaya çıkarabilir. Modellerin nasıl çalıştığına dair temel bilgilerin yanı sıra yapay zeka hakkındaki yaygın efsaneler, önümüzdeki çağda ilerlemek için gerekli olacak.

Brown Üniversitesi'nde yanlış bilgi üzerine çalışan Bilgi Gelecekleri Laboratuvarı'nın eş direktörü Claire Wardle, "Bu teknolojinin ne yapıp ne yapamayacağı konusunda daha akıllı olmalıyız, çünkü maalesef bilginin silah haline getirildiği zorlu zamanlarda yaşıyoruz" dedi. ve yayılması.

Salı günü yayınlanan ve Elon Musk, eski Demokrat başkan adayı Andrew Yang ve “Sosyal İkilemden” Tristan Harris tarafından imzalanan açık bir mektupta, 1000'den fazla imzacı, büyük dil modeli gibi “dev yapay zeka deneylerinin” daha da geliştirilmesinin durdurulması çağrısında bulundu. GPT-4.

Mektup, etkileyici yapay zeka sistemlerinin sınırsız gelişiminin toplum ve insanlık için oluşturduğu risklere değiniyor. Aynı zamanda bu sistemlerden "sonunda sayıca üstün olabilecek, zekasıyla geride kalabilecek, geçerliliğini yitirebilecek ve yerimizi alabilecek insan dışı zihinler" olarak da söz edildi.

Bazı önde gelen yapay zeka araştırmacıları, yazarları yapay zekanın yeteneklerini ve risklerini yanlış tanıtmakla suçladığından, mektup geri dönüşlere yol açtı.

"Bu Bir Gerçek mi?" adlı podcast'in sunuculuğunu yapan Darragh Worland, "Yapay zeka okuryazarlığı, haber okuryazarlığının yepyeni bir alanı haline gelmeye başlıyor" dedi. İnsanların çevrimiçi ortamda karşılaştıkları kafa karıştırıcı ve çelişkili iddiaları yönlendirmelerine yardımcı olan Haber Okuryazarlığı Projesi'nden.

Yapay zekayı yanlış tanıtmanın pek çok yolu var ancak bazı tehlike işaretleri tekrar tekrar ortaya çıkıyor. Yapay zeka ve bilgi okuryazarlığı uzmanlarına göre kaçınılması gereken bazı yaygın tuzaklar şunlardır.

İnsan niteliklerini yansıtmayın

İnsan niteliklerini insan olmayanlara yansıtmak kolaydır. (Kedime kendini dışlanmış hissetmesin diye bir tatil çorabı aldım.)

Yapay zeka şirketi Hugging Face'te makine öğrenimi araştırmacısı ve baş etik bilimcisi Margaret Mitchell, antropomorfizm olarak adlandırılan bu eğilimin yapay zeka hakkındaki tartışmalarda sorunlara yol açtığını ve bunun bir süredir devam ettiğini söyledi.

1966'da Joseph Weizenbaum adlı bir MIT bilgisayar bilimcisi, kullanıcıların mesajlarına bir komut dosyası izleyerek veya sorularını yeniden ifade ederek yanıt veren Eliza adında bir sohbet robotu geliştirdi. Weizenbaum, modelin nasıl çalıştığını bildikleri halde insanların Eliza'ya duygu ve niyet atfettiklerini buldu.

Mitchell, daha fazla sohbet robotu arkadaşları, terapistleri, sevgilileri ve asistanları simüle ettikçe, beyin benzeri bir bilgisayar ağının ne zaman "bilinçli" hale geleceği konusundaki tartışmaların dikkatleri acil sorunlardan uzaklaştıracağını söyledi. Şirketler, sistemin hileli olduğunu öne sürerek sorunlu yapay zekanın sorumluluğundan kaçabilirler. İnsanlar, insanları taklit eden sistemlerle sağlıksız ilişkiler geliştirebilirler. Hugging Face'te makine öğrenimi ve toplum lideri Yacine Jernite, kuruluşların bir yapay zeka sistemini "iş gücünün bir üyesi" olarak görmeleri halinde hata yapmasına izin verebileceğini söyledi.

Brown Üniversitesi'nden Wardle, AI sistemlerini insancıllaştırmanın da korkularımızı artırdığını ve korkan insanların yanlış bilgilere inanmaya ve yaymaya karşı daha savunmasız olduğunu söyledi. Bilimkurgu yazarları sayesinde beyinlerimizin en kötü senaryolarla dolu olduğunu belirtti. "Blade Runner" veya "Terminatör" gibi hikayeler, yapay zeka sistemlerinin bilinçli hale geldiği ve yaratıcı insanlara düşman olduğu bir gelecek sunuyor. Pek çok kişi bilim kurgu filmlerine makine öğrenimi sistemlerinin nüanslarından daha aşina olduğundan, boşlukları hayal gücümüzün doldurmasına izin verme eğilimindeyiz. Wardle, antropomorfizmi gerçekleştiğinde fark ederek yapay zeka mitlerine karşı kendimizi koruyabileceğimizi söyledi.

Yapay zekayı yekpare bir yapı olarak görmeyin

Yapay zeka çok büyük bir şey değil; araştırmacılar, şirketler ve çevrimiçi topluluklar tarafından geliştirilen farklı teknolojilerin bir koleksiyonudur. Jernite, yapay zeka hakkındaki genel ifadelerin önemli soruları gözden kaçırma eğiliminde olduğunu söyledi. Hangi yapay zeka modelinden bahsediyoruz? Kim inşa etti? Faydaları kim elde ediyor ve maliyetleri kim ödüyor?

Jernite, yapay zeka sistemlerinin yalnızca yaratıcılarının izin verdiği şeyleri yapabileceğini, dolayısıyla şirketleri modellerinin işleyişi konusunda sorumlu tutmanın önemli olduğunu söyledi. Örneğin şirketlerin, ürünlerinin gerçek dünyada işleyişini etkileyen farklı kuralları, öncelikleri ve değerleri olacaktır. Yapay zeka füzeleri yönlendirmez veya önyargılı işe alım süreçleri yaratmaz. Jernite ve Mitchell, şirketlerin bu şeyleri yapay zeka araçlarının yardımıyla yaptığını söyledi.

Jernite, "Bazı şirketlerin, [AI modellerini] açıklayamayacağınız şeyleri yapan büyülü varlıklar veya büyülü sistemler olarak sunma konusunda çıkarı var" dedi. "Bu şeylerin daha az dikkatli test edilmesini teşvik etmek için buna yöneliyorlar."

Evdeki insanlar için bu, sistemdeki bilgilerin nereden geldiği veya sistemin yanıtını nasıl formüle ettiği belirsiz olduğunda kaşlarını kaldırmak anlamına geliyor.

Bu arada yapay zekayı düzenleme çabaları da sürüyor. Nisan 2022 itibarıyla ABD eyaletlerinin yaklaşık üçte biri, tüketicileri yapay zekayla ilgili zararlardan veya aşırı erişimden korumak için en az bir yasa önermiş veya yürürlüğe koymuştur.

Yapay zeka araçlarına şüpheyle yaklaşın

Bir insan tutarlı bir cümle kurarsa genellikle etkilenmeyiz. Ancak bunu bir chatbot yaparsa, botun yeteneklerine olan güvenimiz hızla artabilir.

Mitchell, buna otomasyon önyargısı denildiğini ve çoğu zaman yapay zeka sistemlerine çok fazla güvenmemize yol açtığını söyledi. Yanlış olsa bile sistemin önerdiği bir şeyi yapabiliriz veya sistem tavsiye etmediği için bir şeyi yapamayabiliriz. Örneğin, 1999'da yapılan bir araştırma, hastaların teşhis edilmesine yardımcı olmak için yapay zeka sistemi kullanan doktorların, yüzde 6 oranında sistemin yanlış önerilerini tercih ederek kendi doğru değerlendirmelerini göz ardı ettiğini ortaya çıkardı.

Kısacası: Bir yapay zeka modelinin bir şeyi yapabilmesi, onu tutarlı ve doğru bir şekilde yapabileceği anlamına gelmez.

Sindirilebilir yanıtlar sunan bir arama motoru botu gibi tek bir kaynağa güvenmek ne kadar cazip gelse de, bu modeller sürekli olarak kaynaklarından alıntı yapmıyor ve hatta sahte çalışmalar bile uyduruyor. Haber Okuryazarlığı Projesi'nden Worland, bir Wikipedia makalesine veya Google aramasına uygulayacağınız medya okuryazarlığı becerilerinin aynısını kullanın, dedi. Bir yapay zeka arama motorunu veya sohbet robotunu sorguluyorsanız, yapay zeka tarafından oluşturulan yanıtları gazeteler, hükümet veya üniversite web siteleri veya akademik dergiler gibi diğer güvenilir kaynaklarla karşılaştırarak kontrol edin.

Kaynak: TWP