Yapay Zeka Araştırmacılarının Yarısı Yapay Zekanın İnsanların Soyunun Tükenmesine Neden Olabileceğine İnanıyor

[™ Admin]

Yapay Zeka Araştırmacılarının Yarısı Yapay Zekanın İnsanların Soyunun Tükenmesine Neden Olabileceğine İnanıyor

Geçen ay, yüzlerce üst düzey teknoloji uzmanı, gelişmiş yapay zeka (AI) sistemleri oluşturma ve geliştirme konusunda bir moratoryum istedi.

Tarafından yayınlanan açık bir mektupta, "Son aylarda AI laboratuvarları, hiç kimsenin - yaratıcılarının bile - anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital beyinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendi." Geleceğin Hayatı Enstitüsü okudu.

Geçen yıl, ankete katılan yapay zeka bilim adamlarının yüzde 36'sı, yapay zekanın bir gün nükleer düzeyde bir felaketin nedeni olabileceğine inandıklarını söyledi.

Bu uyarılar ve daha fazlası, geçtiğimiz günlerde Center for Humane Technology'nin kurucularından ikisi ve Netflix belgeseli The Social Dilemma'nın arkasındaki adamlar olan Tristan Harris ve Aza Raskin tarafından sunuldu.

Sunumları sırasında Harris uyardı: "Yapay zeka araştırmacılarının yüzde 50'si, insanların yapay zekayı kontrol edemememizden dolayı soyunun tükenme ihtimalinin yüzde 10 veya daha fazla olduğuna inanıyor."

Raskin ayrıca şunları ekledi: "Yapay zeka topluluğunun en çok endişelendiği şeylerin çoğu, 'kalkış' dedikleri şeyin ne zaman olduğudur. Yapay zekanın geniş bir yelpazede insanlardan daha akıllı hale gelmesi. Kendini geliştirme yeteneği başlar. Sonra ondan bir şey yapmasını istiyoruz. Bu, bilirsiniz, ne dilediğinize dikkat edin, çünkü beklenmedik bir şekilde gerçekleşecek, eski standart hikaye.

“İstediğimiz şey, hayatımızı zenginleştiren yapay zeka. Harris, bir takip röportajında NBC Nightly News sunucusu Lester Holt'a, insanlar için çalışan, insan yararına çalışan, kanseri iyileştirmemize, bu da iklim çözümleri bulmamıza yardımcı olan yapay zeka, dedi. "Bunu yapabiliriz. Bu alanları ilerleten belirli uygulamalara uygulanan yapay zekaya ve araştırma laboratuvarlarına sahip olabiliriz. Ancak yapay zekayı mümkün olan en az testle mümkün olan en hızlı şekilde gezegendeki her insana dağıtmak için bir silahlanma yarışındayken, bu iyi sonuçlanacak bir denklem değil.

Harris devam etti, "Şaşırtıcı olan ve kimsenin öngöremediği şey, bu modellerin yalnızca internetteki bir sonraki metin parçasını tahmin etmeyi öğrenerek kimsenin beklemediği yeni yetenekler geliştirmesi. Yani sadece internetteki bir sonraki karakteri tahmin etmeyi öğrenerek, nasıl satranç oynanacağını öğreniyor.”

Raskin, "Bu yeni teknolojilerle ilgili çok şaşırtıcı olan şey, kimsenin istemediği, ortaya çıkan yeteneklere sahip olmalarıdır."

Ayrıca, şu anda AI ile ilgili en büyük sorunlardan birinin "herhangi bir konu hakkında çok kendinden emin bir şekilde konuşması ve ne zaman doğru, ne zaman yanlış yaptığının net olmaması" olduğu konusunda uyardı.

Harris, "Korkulukları kimse inşa etmiyor," diye uyardı. "Ve bu, hükümetimizin anlayabileceğinden veya takdir edebileceğinden çok daha hızlı ilerledi."

Kaynak: BroBible