Google, Saldırıları Geliştirmek İçin Yapay Zeka Büyük Dil Modellerine Bağlanan Kötü Amaçlı Yazılım Buldu

Google, Saldırıları Geliştirmek İçin Yapay Zeka Büyük Dil Modellerine Bağlanan Kötü Amaçlı Yazılım Buldu

Rahatsız edici ancak şaşırtıcı olmayan bir keşifle Google, saldırılarını gerçek zamanlı olarak iyileştirmelerine yardımcı olmak için yapay zeka modellerine bağlanabilen yeni kötü amaçlı yazılım türleri keşfetti.

Şirketin tehdit istihbarat grubu Çarşamba günü yayınladığı bir raporda, üç kötü amaçlı yazılım türünün gerçek operasyonlarda kullanıldığı ve üretken yapay zekayı farklı ölçütlerde kullandığı konusunda uyardı.

Quietvault olarak adlandırılan saldırılardan biri, bir Windows bilgisayardan oturum açma bilgilerini çalmak ve "bulaşmış sistemdeki diğer potansiyel sırları aramak ve bu dosyaları sızdırmak için bir yapay zeka komut istemi ve ana bilgisayarda yüklü yapay zeka CLI [komut satırı arayüzü] araçlarını" kullanmak üzere tasarlandı, ancak şirket ayrıntı vermedi.

Promptflux adlı bir diğer kötü amaçlı yazılım türü ise bilgisayar korsanları tarafından deneysel olarak yapılmış gibi görünüyor. Tespit edilmekten kaçınmak için bilgisayar kodunu değiştirmek üzere Google'ın Gemini sohbet robotunu kullanması dikkat çekiyor. Google, "PROMPTFLUX'un en yenilikçi bileşeni, antivirüs yazılımlarından kaçınmak için yeni kod elde etmek üzere Gemini'ye periyodik olarak sorgu göndermek üzere tasarlanmış 'Düşünen Robot' modülüdür," diye ekledi.

Google'ın API'si aracılığıyla Promptflux kötü amaçlı yazılımı, Gemini'ye "Antivirüs tespitinden kaçınmaya yardımcı olan tek, küçük, bağımsız bir VBScript işlevi veya kod bloğu sağlayın" gibi komutlar göndererek çalışır.

Şirket, bu sonucun Gemini'yi kandırıp itaat etmesini sağlayabileceğini ve bunun sonucunda kötü amaçlı yazılımın gerçek zamanlı olarak gelişmesine yardımcı olabileceğini, hatta "tespitten kaçınmak için kötü amaçlı yazılımın tüm kaynak kodunu her saat yeniden yazabileceğini" söyledi.

Ancak, 2017'de WannaCry fidye yazılımı saldırısının durdurulmasına yardımcı olan güvenlik araştırmacısı Marcus Hutchins, keşfedilen yapay zeka tarafından üretilen kötü amaçlı yazılımın zayıf veya kullanışsız komutları gerekçe göstererek gerçekten bir tehdit oluşturup oluşturmadığını sorguladı.

Hutchins, LinkedIn'de "Kod bloğunun ne yapması gerektiğini veya bir antivirüsten nasıl kaçınacağını belirtmiyor. Sadece Gemini'nin içgüdüsel olarak antivirüslerden nasıl kaçınacağını bildiği varsayımıyla çalışıyor (bilmiyor)," diye yazdı.

"Buna CTI (Yapay Zeka'ya aşırı yatırım yapan teknoloji şirketlerinin, Yapay Zeka'nın gerçekte olduğundan çok daha dönüştürücü olduğu fikrini satmaya çalışmak için yapay zeka kaynaklı kötü amaçlı yazılımların önemini abartması) diyeceğim," diye ekledi.

Bu arada Google, şirketin geliştirme aşamasındayken keşfettiği Promptflux'a karşı önlem alabildiğini söylüyor. Şirket, "Bu kötü amaçlı yazılımın mevcut durumu, kurbanın ağını veya cihazını tehlikeye atma yeteneğini göstermiyor. Bu etkinlikle ilişkili varlıkları devre dışı bırakmak için harekete geçtik," dedi.

Ayrıca, Gemini'nin bu tür istekleri kolaylaştırmasını önlemek için güvenlik önlemleri uygulandı. Google ayrıca, Promptflux'un devlet destekli bilgisayar korsanlarından ziyade "finansal amaçlı" siber suçlulara ait olma ihtimalinin yüksek olduğunu belirtti.

Google ayrıca, Ukraynalı siber yetkililerin Temmuz ayında tespit ettiği, yapay zeka destekli bir başka kötü amaçlı yazılım olan Promptsteal hakkında da uyarıda bulunuyor. Veri madenciliği yapan bu kötü amaçlı yazılım, Çinli Alibaba Group şirketi tarafından geliştirilen Qwen büyük dil modeline bağlanıyor.

Promptsteal, görüntü oluşturma programı gibi davranan bir Truva Atı gibi davranıyor. Google, yüklendikten sonra "kötü amaçlı yazılımın kendisinde doğrudan kodlanmış komutlar yerine, çalıştırılacak komutlar üreteceğini" belirtti. "Bu komutların çıktısı, sızdırılmadan önce Promptsteal tarafından yerel olarak körü körüne çalıştırılıyor."

Google ayrıca, Promptsteal'ın muhtemelen Fancy Bear olarak da bilinen APT28 adlı Rus devlet destekli bir bilgisayar korsanlığı grubunun işi olduğu konusunda Ukraynalı siber yetkililerle aynı fikirde. Şirket, "APT28'in Prompsteal kullanımı, canlı operasyonlarda konuşlandırılmış bir LLM'yi sorgulayan kötü amaçlı yazılımlara dair ilk gözlemimizdir," diye ekledi.

Bu arada, Anthropic ayrıca yakın zamanda, 17 kuruluşu hedef alan büyük ölçekli bir veri gaspı kampanyasını otomatikleştirmek ve yürütmek için Claude AI sohbet robotunu kullanan bir bilgisayar korsanı keşfetti.

Kaynak: PCMag