AGI nedir? Yapay Genel Zeka insanları nasıl modası geçmiş hale getirebilir?

AGI nedir? Yapay Genel Zeka (Artificial General Intelligence) insanları nasıl modası geçmiş hale getirebilir?

AI uzmanları Insider'a yapay genel zeka veya AGI düşündüğümüzden daha yakın olduğunu söyledi.

Sıcak terim AGI'nın tanımı hala belirsizdir.

Ancak uzmanlar, AGI'nin insanlık için araştırılması ve düzenlenmesi gereken tehlikeler sunduğu konusunda hemfikir.

Yapay zekadaki artış bir şeyi kanıtlıyorsa, o da teknolojinin en bilgili uzmanların düşündüğünden bile daha akıllı olabileceğidir.

Microsoft'taki araştırmacılar, ChatGPT'nin bugüne kadarki en gelişmiş dil modeli olan GPT-4'ün bir kitabı, dokuz yumurtayı, bir dizüstü bilgisayarı, bir şişeyi ve bir çiviyi bir kutuya nasıl dizeceğiniz gibi bulmacalara akıllı çözümler bulabildiğini öğrenince şok oldular. kararlı yol. Bu araştırmacılardan biri Wired'e, anlaşılmaz bir kodlama dilinde tek boynuzlu at çizmek için GPT-4 aldıktan sonra şaşırdığını söyledi.

Başka bir çalışma, AI avatarlarının çok az insan müdahalesi ile kendi sanal kasabalarını yönetebileceğini öne sürdü.

Bu yetenekler, bazı uzmanların yapay genel zeka veya AGI olarak adlandırdığı şeye bir bakış sunabilir: teknolojinin sağduyu ve bilinç gibi karmaşık insani yeteneklere ulaşma yeteneği.

Insider'a konuşan yapay zeka uzmanları, AGI'nin gerçekte nasıl görüneceği konusunda ikiye bölünmüş olsa da, yeni bir zeka biçimine doğru ilerleme kaydedildiği konusunda hemfikir.

Yıllık "Yapay Zekanın Durumu" raporunun ortak yazarı ve düzinelerce yapay zeka girişiminin yatırımcısı olan Ian Hogarth, AGI'yi "otonom olarak öğrenen ve gelişen" "süper zeki bir bilgisayardan" oluşan "Tanrı benzeri yapay zeka" olarak tanımlıyor. " ve insan müdahalesine ihtiyaç duymadan bağlamı anlar. Insider'a teoride, AGI ile teknoloji bir benlik duygusu geliştirebilir ve "kontrolümüzün veya anlayışımızın ötesinde bir güç olabilir" dedi.

Bir OpenAI rakibindeki bir AGI araştırmacısı Insider'a, AGI'nin 2023 bilimkurgu filmi "M3GAN"daki katil robot gibi görünme potansiyeline sahip olduğunu söyledi. uyuyormuş gibi yapar ve kendi ahlaki kompleksini geliştirir.

Ancak Google'ın yapay zeka bölümü DeepMind'de bir AGI güvenlik araştırmacısı olan Tom Everitt, makinelerin süper zekaya sahip olmaları için bir benlik duygusuna sahip olmaları gerekmediğini söylüyor.

Everitt, Insider'a "Bence en yaygın yanılgılardan biri, 'bilincin' zeka için gerekli bir şey olduğudur" dedi. "'Kendinin farkında' olan bir modelin, insan düzeyindeki zekayla eşleşen veya onu artıran bu modeller için bir gereklilik olması gerekmez."

AGI'yi, nasıl eğitildikleriyle sınırlı olmayan şekillerde herhangi bir bilişsel veya insan görevini çözebilen AI sistemleri olarak tanımlar. Teorik olarak, AGI'nin bilim adamlarının hastalıklara çare geliştirmesine, yeni yenilenebilir enerji biçimleri keşfetmesine ve "insanlığın en büyük gizemlerinden bazılarını çözmesine" yardımcı olabileceğini söylüyor.

Everitt, "Doğru yapıldığında, AGI, çığır açan buluşların günlük yaşamlarımızı dönüştürmesini sağlayan inanılmaz derecede güçlü bir araç olabilir" dedi.

AI uzmanları, AGI'nin ne zaman gerçeğe dönüşeceği konusunda kararsız
AGI'nin tam olarak neye benzediği hala bir muamma olsa da, yapay zeka uzmanları bunun ipuçlarını görmeye başladığımız konusunda hemfikir.

"AI'nın vaftiz babası" olarak bilinen Geoffrey Hinton, CBS'ye AGI'nin beş yıl gibi kısa bir sürede burada olabileceğini söyledi. Bu ayın başlarında BBC'ye yapay zeka sohbet robotlarının yakında insanlardan daha akıllı olabileceğini söyledi.

Hogarth, "Endüstrinin Tanrı benzeri yapay zeka yaratmaktan ne kadar uzakta olduğunu kesin olarak bilmiyor" dedi ve GPT-4 üzerinde çalışan sanal bir aracı olan AutoGPT gibi araçlarla "gerçekten ne olabileceğini bilmiyoruz" dedi. Wired'e göre pizza sipariş etmek ve kendi başına bir pazarlama kampanyası yürütmek için tasarlanabilir.

Kötü amaçlı amaçlarla kullanılan derin sahtekarlıklar ve büyükustalardan daha iyi satranç oynayabilen makineler gibi AGI ipuçlarını zaten gördüğümüzü söyledi.

Ancak bunlar sadece ipuçları: "AI sistemleri hala uzun vadeli planlama yeteneklerinden, hafızadan, akıl yürütmeden ve etrafımızdaki fiziksel dünyayı anlamadan yoksundur." Dedi Everitt. "Sistemlere bu yeteneklerle nasıl aşılanacağını bulmak için yapılacak çok iş var."

AGI, riskleri ele alınmazsa insanlığı geçersiz kılabilir
Uzmanlara göre, AGI oluşturmanın önemli bir kısmı, teknolojinin güvenli bir şekilde uygulanabilmesi için risklerin anlaşılmasını ve ele alınmasını içeriyor.

Bir yapay zeka çalışması, araştırmacıların modellere besledikleri veri miktarını artırdıklarında, dil modellerinin insan yönergelerini göz ardı etme olasılığının daha yüksek olduğunu ve hatta kapatmama isteğini ifade ettiğini buldu. Bu bulgu, AI'nın bir noktada o kadar güçlü hale gelebileceğini ve insanların onu kontrol edemeyeceğini gösteriyor.

Bu gerçekleşirse Hogarth, AGI'nin "insan ırkının eskimesine veya yok olmasına yol açabileceğini" tahmin ediyor.

Bu nedenle Everitt gibi araştırmacılar, "insanlığın AGI'nin kontrolünü nasıl sürdürebileceği" etrafındaki "varoluşsal soruları" tahmin etmek için AGI güvenliği üzerinde çalışıyorlar. Google'ın DeepMind'i, "giderek daha yetenekli yapay zeka geliştirmek için sorumlu bir yaklaşım izlediğimizden emin olmak" için "etik ve güvenlik araştırmalarına çok önem veriyor" dedi.

Hogarth, AI teknolojisinin sorumlu bir şekilde gelişmesi için düzenlemenin anahtar olduğunu söylüyor.

"Düzenleyiciler, OpenAI'nin GPT-4'ü, Google DeepMind'in Gato'su veya açık kaynak projesi AutoGPT gibi projeleri çok dikkatli izlemeli" dedi.

Birçok yapay zeka ve makine öğrenimi uzmanı, halkın nasıl eğitildiklerini ve nasıl çalıştıklarını anlayabilmesi için yapay zeka modellerinin açık kaynaklı olmasını istiyor.

Everitt, "Bu büyük sorular hakkında mümkün olan en kısa sürede tartışmaya başlamamız gerekiyor" dedi. "Bu konuda farklı bakış açılarını ve düşünce okullarını memnuniyetle karşılamak çok önemlidir."

Kaynak: Business Insider