Amazon, yapay zekâ ajanının eski bir vikiden aldığı 'yanlış tavsiyeler' nedeniyle perakende web sitesinin çökmesinin ardından, insan faktörünü tekrar devreye sokuyor

Amazon, yapay zekâ ajanının eski bir vikiden aldığı 'yanlış tavsiyeler' nedeniyle perakende web sitesinin çökmesinin ardından, insan faktörünü tekrar devreye sokuyor

Amazon, perakende web sitesinin neden sürekli çöktüğünü anlamak için Salı günü düzenli haftalık perakende teknolojisi toplantısını yeniden düzenledi. Financial Times'a göre, iç belgelerde gizlenmiş ve ardından hızla silinmiş olan cevap: kendi yapay zeka girişimleri.

Perakende web sitesinde tek bir hafta içinde dört yüksek önem dereceli olay yaşandı; bunlardan biri, geçen Perşembe günü altı saat süren ve alışveriş yapanları ödeme, hesap bilgileri ve ürün fiyatlandırmasından mahrum bırakan bir çökme olayıydı. Amazon'un e-ticaret altyapısını denetleyen kıdemli başkan yardımcısı tarafından yönetilen toplantı, neyin yanlış gittiğine dair "derinlemesine bir inceleme" olarak çerçevelendi. Financial Times'a göre, yanlış giden şey, Amazon'un kendi mühendislerini benimsemeye teşvik ettiği yapay zeka araçlarıyla ilgiliydi.

Toplantı için hazırlanan bir iç belge, başlangıçta "GenAI destekli değişiklikleri" 3. çeyreğe kadar uzanan bir dizi olayın bir faktörü olarak tanımlıyordu. Financial Times'ın belgenin her iki versiyonunu da incelemesine göre, bu referans toplantıdan önce silindi.

Amazon, haberciliği reddetti. Şirket bir blog yazısında, yalnızca bir olayın yapay zeka araçlarıyla ilgili olduğunu, "olayların hiçbirinin yapay zeka tarafından yazılmış kod içermediğini" ve nedenin "bir mühendisin, bir temsilcinin eski bir dahili wiki'den çıkardığı yanlış tavsiyeyi takip etmesi" olduğunu söyledi. Amazon ayrıca Fortune'a toplantının acil bir toplantı değil, rutin haftalık operasyon incelemesi olduğunu söyledi. Şirket ayrıca, yapay zeka araçlarıyla çalışan mühendisler için yeni onay gereksinimleri getirdiği iddiasının doğru olmadığını ve AWS'nin olayların hiçbirine karışmadığını belirtti.

Amazon sözcüsü Fortune'a, "Normal iş süreçlerinin bir parçası olarak, toplantıda sürekli iyileştirmeye odaklanırken web sitemizin ve uygulamamızın kullanılabilirliğinin gözden geçirilmesi de yer alacak" dedi.

CNBC tarafından elde edilen ve haberleştirilen iç belgeler ise farklı bir hikaye anlatıyor. E-ticaret Vakfı Kıdemli Başkan Yardımcısı Dave Treadwell, personele durumu şöyle açıkladı: Site kullanılabilirliği son zamanlarda iyi değildi ve Sev 1'lerin (önemli sistemleri devre dışı bırakan olaylar için en ciddi sınıflandırma) ardı ardına gelmesi acil müdahale gerektiriyordu.

Ancak CNBC'ye göre, başlangıçta yazılan iç belgeler daha karmaşık bir hikaye anlatıyor. Treadwell notunda, üretken yapay zeka kullanımına ilişkin "en iyi uygulamalar ve güvenlik önlemlerinin" tam olarak oluşturulmadığını kabul etti ve şirketin perakende deneyiminin en kritik kısımlarını içeren uygulamalara "kontrollü sürtünme" getireceğini yazdı. Amazon bunu nasıl adlandırırsa adlandırsın, mühendislere verilen mesaj, yapay zeka destekli değişikliklerin artık daha fazla incelemeye tabi tutulduğuydu.

Bu tür bir itirafın zamanlaması Amazon için çok kötü. Fortune 500 listesinde Walmart'ı geride bırakarak zirveye çıkan şirket, bu yıl 200 milyar dolarlık tahmini sermaye harcamasıyla, yapay zeka altyapısına dünyadaki herhangi bir şirketten daha fazla para harcıyor.

Amazon ayrıca iş gücünü de agresif bir şekilde azaltıyor. Şirket, Ekim ayında çoğunlukla orta düzey yöneticilerden oluşan yaklaşık 14.000 kurumsal çalışanı işten çıkardı, ardından Ocak ayında da 16.000 kişiyi daha işten çıkardı. Bu, 2022 ve 2023 yılları arasında işten çıkarılan 27.000'den fazla çalışanın üzerine ekleniyor. Haziran ayında Jassy, şirket içi bir notta, yapay zeka destekli "verimlilik kazanımları" sayesinde Amazon'un daha az çalışana ihtiyaç duyacağını yazmış ve dev perakende platformunda daha az çalışana ihtiyaç duyulacağı yönündeki yapay zeka geleceğini vurgulayan söylemini tekrarlamıştı. Ekim ayındaki işten çıkarmalar geldiğinde, Jassy bir kazanç görüşmesinde gerekçeyi "kültür" ile ilgili olarak yeniden çerçevelendirdi ve şirketin pandemi sırasında çok hızlı büyüdüğünü, Amazon'un "yalın" ve "hızlı hareket etmesi" gerektiğini söyledi.

Ancak aynı işten çıkarmaları duyuran ayrı bir Amazon notunda, "dönüştürücü teknolojiye" uyum sağlama ihtiyacından bahsedildi; bu tür bir dil, bahar temizliğinden çok yapay zeka destekli iş gücü azaltımına daha net bir şekilde uyuyor. Ancak her iki durumda da Amazon'un süreçte daha fazla insana ihtiyaç duyduğu görülüyor.

Yapay zeka ile ilgili işten çıkarmaların yaşandığı bir dünyada bu ilginç bir anlatı ihlali. Jack Dorsey'nin Block şirketi geçen ay iş gücünün neredeyse yarısını, yani 4.000 çalışanı işten çıkardı ve bu kararı açıkça yapay zekâ destekli verimlilik artışlarına bağladı. Dorsey, çoğu şirketin bir yıl içinde aynı sonuca varacağını söyledi. Salesforce'un CEO'su Marc Benioff, 4.000 destek pozisyonunu azalttıktan sonra daha az personele ihtiyaç duyduğunu belirtti. Üst düzey yöneticilerin ortak görüşü, yapay zekâya yapılan yatırımların artırılmasının daha küçük iş gücüyle kendini amorti edeceği yönünde.

Ancak yapay zekanın iş yükünü hafifleteceği vaadi gerçekleşmiyor; en azından kalan çalışanlar ve yönettikleri sistemler için durum böyle değil. Wall Street Journal'ın ActivTrak tarafından 164.000 çalışan üzerinde yaptığı yeni bir analiz, yapay zekanın iş yükünü azaltmak yerine hızını, yoğunluğunu ve karmaşıklığını artırdığını ortaya koydu. Çalışanlar yapay zeka araçlarını benimsedikten sonra e-posta, mesajlaşma ve sohbet uygulamalarında geçirilen süre iki katından fazla arttı. Karmaşık sorunları çözmek için gereken odaklanmış, kesintisiz çalışmaya ayrılan süre ise %9 azaldı. Bu arada, Anthropic'in yeni araştırması, yapay zekanın teorik olarak otomatikleştirebileceği ile fiilen otomatikleştirdiği arasındaki uçurumun çok büyük olduğunu gösteriyor. Yazılım ve matematikte bile - görevlerin %94'ünün teorik olarak yapay zeka tarafından ele alınabileceği yerlerde - bugün yalnızca yaklaşık %33'ü otomatikleştiriliyor. Anthropic, yasal kısıtlamaların ve kurumsal sorunların yaygınlaşmayı yavaşlattığını belirtti. Amazon'un kesintileri bunun nedenini canlı bir şekilde gösteriyor olabilir.

Kaynak: Fortune