Google ve Oxford bilim adamlarının yeni makalesi: AI'nın (Yapay Zeka) yakında insanlığı yok edeceğini iddia ediyor

Google ve Oxford bilim adamlarının yeni makalesi: AI'nın (Yapay Zeka) yakında insanlığı yok edeceğini iddia ediyor

Oxford Üniversitesi ve Google Deepmind ile araştırmacılar yeni bir makalede tüyler ürpertici bir uyarı paylaştı. AI Magazine'de geçen ay yayınlanan makale, AI tehdidinin önceden inanıldığından daha büyük olduğunu iddia ediyor. Aslında o kadar harika ki, yapay zeka muhtemelen bir gün yükselecek ve insanlığı yok edecek.

AI bir gün yükselebilir

AI etkileyici. Filmlerde Val Kilmer'in sesini simüle edebilir ve araştırmacıların karmaşık sorunları birden çok kez çözmesine yardımcı olur. Ancak şimdi araştırmacılar, AI tehdidinin düşündüğümüzden daha büyük olduğunu öne sürüyorlar.

Araştırmacılar bulgularını Ağustos sonunda yayınladılar. Makaleye göre, AI tehdidi, araştırmacıların belirlediği bir dizi koşula bağlı olarak değişebilir. Bu, araştırmacıların yapay zekayı olası bir tehdit olarak gördükleri ilk sefer değil. Ancak yeni makale, baktığı makul varsayımlar nedeniyle merak uyandırıyor.

Bu varsayımların başında, araştırmacılar, makalenin yazarlarından biri olan Michael Cohen'in bu ay tweet atarak "Ödüllerinin sağlanmasına müdahale eden yapay zekaların çok kötü sonuçları olacağına" inanıyor. Cohen, araştırmacıların belirlediği koşulların, tehdit edici bir sonuç olasılığının önceki yayınlardan daha güçlü olduğunu gösterdiğini söylüyor.

Ek olarak ekip, yapay zeka tehdidinin varoluşsal bir felakete dayandığını söylüyor. Ve bu sadece mümkün değil, çok muhtemel. Cohen ve diğer araştırmacıların belirttiğine göre en büyük sorunlardan biri, bir sorunu yapay zekanın yaptığı şey için ödüllendirildiği noktaya getirmek için her zaman daha fazla enerjinin harcanabilmesidir. Bu nedenle, bizi makinelerle karşı karşıya getirebilir.

Cohen, Twitter ileti dizisinde "Kısa versiyon," diyor, "kameranın sonsuza kadar 1 sayısını görme olasılığını artırmak için her zaman daha fazla enerji kullanılabilir, ancak yiyecek yetiştirmek için biraz enerjiye ihtiyacımız var. Bu bizi çok daha gelişmiş bir ajanla kaçınılmaz bir rekabete itiyor.” Bunu akılda tutarak, AI tehdidinin nasıl öğretildiğine bağlı olarak değişebileceği anlaşılıyor.

Cohen'in burada bahsettiği sayı, AI ajanını belirli bir sayıya ulaşmaya zorlamak için yapılan bir teste dayanıyor. Ve bunu yapmanın bir yolu gösterildiğinde, bu hedefe ulaşmayı optimize etmek için daha fazla enerji kullanabilir. Bu ilgi çekici bir teklif ve neden bu kadar çok kişinin AI tehdidi hakkında endişelendiğini gösteren bir teklif.

Açıkçası, makalede verilen örnekler tek olası sonuç değildir. Ve belki de makineleri kontrol altında tutmanın bir yolunu bulabiliriz. Ancak bu yeni araştırma, gelecekte yapay zekaya ne kadar güvenmek istediğimize ve varoluşsal bir felaket olursa onu nasıl kontrol edebileceğimize dair bazı soruları gündeme getiriyor.

Kaynak: BGR