Oxfordlu araştırmacı, yapay zekanın Hindenburg benzeri bir felakete doğru gittiği konusunda uyarıyor

Oxfordlu araştırmacı, yapay zekanın Hindenburg benzeri bir felakete doğru gittiği konusunda uyarıyor

Yapay zeka balonu patlayacak mı? Ekonomiyi alev alev yakacak mı? Eğer sektörün Hindenburg benzeri bir felakete doğru gittiği konusunda önde gelen bir uzmanın uyarısına inanacak olursanız, her iki benzetme de uygun olabilir.

Oxford Üniversitesi'nde yapay zeka profesörü olan Michael Wooldridge, The Guardian'a verdiği demeçte, "Hindenburg felaketi, hava gemilerine olan küresel ilgiyi yok etti; o noktadan itibaren ölü bir teknoloji haline geldi ve benzer bir an yapay zeka için gerçek bir risk oluşturuyor" dedi.

Şimdi inanması zor olabilir, ancak 1937'de Alman hava gemisi düşmeden önce, devasa zeplinler, ticari uçakların henüz gerçekten havalanmadığı bir dönemde, küresel ulaşımın geleceğini temsil ediyor gibi görünüyordu. Ve o zamanlar dünyanın en büyük hava gemisi olan Hindenburg, sektörün en büyük başarısıydı - aynı zamanda Nazi Almanyası için bir propaganda aracıydı.

800 fitten fazla uzunluğuyla, adı felaketle eşanlamlı hale gelen bir diğer devasa gemi olan Titanik'in uzunluğuna yakın bir uzunluğa sahipti ve düzenli olarak Atlantik ötesi seferlerde düzinelerce yolcu taşıyordu. Ancak, gemi New Jersey'de iniş yapmaya çalışırken aniden alev alınca tüm bu hırslar buharlaştı. Korkunç alev topunun kritik bir kusura atfedildiği ortaya çıktı: Yüz binlerce kilo hidrojenle dolu gemi, talihsiz bir kıvılcımla tutuştu.

Yangın filme alındı, fotoğraflandı ve dünya çapında bir medya çılgınlığıyla yayınlandı ve hava gemisi endüstrisinin geleceğini belirledi. Bir trilyon dolardan fazla yatırım yapılan yapay zeka da aynı yolu izleyebilir mi? Bu düşünülemez değil.

Wooldridge gazeteye verdiği demeçte, "Bu klasik teknoloji senaryosu," dedi. "Çok, çok umut vadeden bir teknolojiye sahipsiniz, ancak istediğiniz kadar titizlikle test edilmemiş ve arkasındaki ticari baskı dayanılmaz."

Wooldridge, yapay zekanın, sürücüsüz araçlar için ölümcül bir yazılım güncellemesi veya büyük bir şirketi çökerten kötü bir yapay zeka kaynaklı karar gibi felaket bir olaya neden olabileceğini öne sürüyor. Ancak asıl endişesi, yaygın olarak kullanılmalarına rağmen yapay zeka sohbet botlarında hala mevcut olan bariz güvenlik açıklarıdır. Acınası derecede zayıf güvenlik önlemlerine sahip olmalarının ve son derece tahmin edilemez olmalarının yanı sıra, yapay zeka sohbet botları insan benzeri kişilikler sergilemek ve kullanıcıları meşgul tutmak için dalkavukluk yapmak üzere tasarlanmıştır.

Bunlar birlikte, kullanıcının olumsuz düşüncelerini teşvik edebilir ve onları sanrılarla dolu ve hatta gerçeklikten tamamen kopmalarına yol açan zihinsel sağlık sarmallarına sürükleyebilir. Bu sözde yapay zeka psikozu vakaları, takip, intihar ve cinayetle sonuçlanmıştır. Yapay zekanın saatli bombası yanıcı hidrojen yükü değil, milyonlarca potansiyel psikoz tetikleyici konuşmadır. Yalnızca OpenAI, ChatGPT'nin her hafta yarım milyondan fazla insanın psikoz belirtileri gösteren konuşmalar yaptığını kabul ettiğini belirtti.

“Şirketler yapay zekâları çok insansı bir şekilde sunmak istiyorlar, ancak bence bu çok tehlikeli bir yol,” diye belirtti Wooldridge The Guardian'a. “Bunların sadece abartılmış elektronik tablolar olduğunu, araçlardan başka bir şey olmadığını anlamamız gerekiyor.”

Eğer yapay zekânın gelecekte bizim için bir yeri varsa, tüm cevaplara sahipmiş gibi davranan, aşırı duygusal arkadaşlar değil, soğuk ve tarafsız yardımcılar olarak olmalıdır. Wooldridge'e göre bunun parlak bir örneği, “Star Trek”in ilk bölümlerinden birinde Enterprise'ın bilgisayarının bir soruyu cevaplamak için “yetersiz veriye” sahip olduğunu söylemesidir (ve bu, cana yakın değil, robotik bir sesle).

“Bizim elde ettiğimiz şey bu değil. Aşırı özgüvenli bir yapay zekâ elde ediyoruz ve diyor ki: evet, işte cevap,” diye belirtti The Guardian'a. “Belki de ‘Star Trek’ bilgisayarının sesiyle bizimle konuşan yapay zekâlara ihtiyacımız var. Bunun bir insan olduğuna asla inanmazsınız.”

Kaynak: Futurism