Görünüşe göre Elon Musk bile yapay zekadan korkuyor

Görünüşe göre Elon Musk bile yapay zekadan korkuyor

DALL-E 2, Midjourney ve Stable Diffusion gibi metinden resme modellerdeki gelişmeler nedeniyle birçok reklam öğesi, üretken yapay zekanın gücü konusunda endişelenmeye başlıyor. Ancak şimdi teknolojiyi geliştirmeye dahil olan bazı insanlar bile endişelenmeye başlıyor, bu da muhtemelen şu an olduğumuzdan daha fazla korkmamız gerektiği anlamına geliyor.

DALL-E 2'den sorumlu şirketin ilk yatırımcılarından biri olan Tesla CEO'su Elon Musk da dahil olmak üzere, bu alana dahil olan 1.000'den fazla kişi, daha büyük yapay zeka modellerinin eğitimi için altı aylık bir yasak çağrısında bulunan uğursuz bir açık mektup yazdı. uygarlığın geleceği için potansiyel risklerden kaçınmak.

Future of Life Enstitüsü tarafından yayınlanan mektupta, yapay zeka gelişiminin "tehlikeli bir yarış" haline geldiği ve "insan-rekabetçi zekaya sahip yapay zeka sistemlerinin toplum ve insanlık için derin riskler oluşturabileceği" bir noktaya ulaştığı uyarısında bulunuluyor.

Open AI'nin GPT-4'ünün ulaştığı seviyede geliştirmenin altı ay süreyle durdurulmasını istiyorlar. Ve hızlı bir şekilde bir ara verilmezse hükümetlerin bir moratoryum uygulamak için adım atması gerektiğini söylüyorlar.

"Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz?" mektup acımasızca soruyor. "Nihayetinde sayıca üstün olabilecek, zekâsı azalabilecek, modası geçmiş [sic] ve bizim yerimizi alabilecek insan dışı zihinler geliştirmeli miyiz? Uygarlığımızın kontrolünü kaybetme riskini almalı mıyız?"

"Güçlü AI sistemleri, yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir" diye ısrar ediyor. "AI laboratuvarları ve bağımsız uzmanlar, bu duraklamayı, bağımsız dış uzmanlar tarafından titizlikle denetlenen ve denetlenen gelişmiş AI tasarımı ve geliştirmeye yönelik bir dizi paylaşılan güvenlik protokolünü ortaklaşa geliştirmek ve uygulamak için kullanmalıdır."

Yapay zekanın bildiğimiz medeniyetin sonunu getirebileceği korkuları yeni bir şey değil. Korkutucu olan şu ki, bazıları AI modelleri geliştirmiş olan bu alana dahil olan insanlar, işlerin kontrolden çıktığı konusunda endişeleniyorlar.

Daha önce DALL-E ve ChatGPT geliştiricisi Open AI'da yatırımcı olan Musk'ın yanı sıra mektup, Stable Diffusion geliştiricisi Stability AI'nın CEO'su Emad Mostaque tarafından imzalandı. Diğer imzalar arasında Apple'ın kurucu ortağı Steve Wozniak, Kanadalı bilgisayar bilimcisi Yoshua Benigo, yapay zeka araştırmacısı Stuart Russell, Alphabet'in yapay zeka araştırma laboratuvarı DeepMind araştırmacıları ve Meta tasarım başkanı Christopher Reardon yer alıyor.

Endişeleri, AI modellerinin geliştiricilerinin bile artık yaratımlarının tam olarak ne yapabileceğini veya nasıl davranacağını tam olarak bilemediği bir noktaya ulaşan AI gelişiminin baş döndürücü hızını vurguluyor. Bu, sektörü bir bütün olarak düzenlemenin yollarını ve telif hakkı ve derin sahtekarlıklar gibi belirli sorunları çözmenin bir yolunu tanımlamamız gerektiğini gösteriyor.

Kaynak: Creative Bloq