Sam Altman, OpenAI'ın en yeni iş ilanında yıllık maaşın yarım milyon dolardan fazla olduğunu ve işin "stresli" olduğunu söyledi

Sam Altman, OpenAI'ın en yeni iş ilanında yıllık maaşın yarım milyon dolardan fazla olduğunu ve işin "stresli" olduğunu söyledi

• OpenAI, yapay zekanın olumsuz yönlerini sınırlamak için yeni bir "hazırlık başkanı" işe alıyor.

• CEO Sam Altman, Cumartesi günü X'te yaptığı bir paylaşımda, bu pozisyonun "stresli" olacağını söyledi.

• Bu pozisyonun yıllık maaşı 555.000 dolar artı hisse senedi opsiyonları.

OpenAI, yapay zekanın olumsuz yönlerini azaltmak için birine yarım milyon dolardan fazla ödeme yapmak istiyor.

Eğer bu çok fazla para gibi görünüyorsa, potansiyel olumsuzlukları da göz önünde bulundurun: iş kaybı, yanlış bilgilendirme, kötü niyetli aktörler tarafından istismar, çevresel yıkım ve insan iradesinin aşınması, bunlardan sadece birkaçı.

CEO Sam Altman, Cumartesi günü X'te yaptığı bir paylaşımda işi "stresli" olarak nitelendirdi. Altman, "Hemen hemen anında derin sulara atlayacaksınız" diye yazdı.

Altman, "hazırlık başkanı" pozisyonunun "önemli bir zamanda kritik bir rol" olduğunu söyledi.

"Modeller hızla gelişiyor ve artık birçok harika şeyi yapabiliyorlar, ancak aynı zamanda bazı gerçek zorluklar da ortaya koymaya başlıyorlar. Modellerin ruh sağlığı üzerindeki potansiyel etkisinin bir ön izlemesini 2025'te gördük; şimdi modellerin bilgisayar güvenliğinde o kadar iyi hale geldiğini görüyoruz ki, kritik güvenlik açıklarını bulmaya başlıyorlar," diye yazdı.

OpenAI'nin ChatGPT'si, birçok tüketicinin konuları araştırmak, e-posta taslakları hazırlamak, seyahat planlamak veya diğer basit görevleri yerine getirmek için kullandığı yapay zeka sohbet botlarını popülerleştirmeye yardımcı oldu.

Bazı kullanıcılar da terapiye alternatif olarak botlarla konuşuyor; bu da bazı durumlarda ruh sağlığı sorunlarını şiddetlendirerek, sanrıları ve diğer endişe verici davranışları teşvik ediyor.

OpenAI, Ekim ayında, psikoz veya kendine zarar verme gibi endişe verici davranışlar sergileyen kullanıcılarla ChatGPT'nin etkileşimini iyileştirmek için ruh sağlığı uzmanlarıyla çalıştığını söyledi.

OpenAI'nin temel misyonu, yapay zekayı tüm insanlığın yararına olacak şekilde geliştirmektir. Güvenlik protokollerini en başından beri operasyonlarının merkezine yerleştirdi. Ancak ürünleri piyasaya sürmeye başladıkça ve kar elde etme baskısı arttıkça, bazı eski çalışanlar şirketin güvenliğe kıyasla karı önceliklendirmeye başladığını söyledi.

OpenAI'deki artık feshedilmiş güvenlik ekibinin eski lideri Jan Leiki, Mayıs 2024'te X'te yaptığı ve istifasını duyurduğu bir paylaşımda, şirketin teknolojinin güvenli bir şekilde kullanılmasını sağlama misyonunu gözden kaçırdığını söyledi.

"İnsandan daha akıllı makineler inşa etmek, doğası gereği tehlikeli bir girişimdir. OpenAI, tüm insanlık adına muazzam bir sorumluluk üstleniyor," diye yazdı. "Ancak son yıllarda güvenlik kültürü ve süreçleri, gösterişli ürünlerin gerisinde kaldı."

Bir haftadan kısa bir süre sonra, başka bir çalışan da X'te istifasını duyurdu ve güvenlik endişelerini gerekçe gösterdi. Eski çalışanlardan Daniel Kokotajlo, Mayıs 2024 tarihli bir blog yazısında, "yapay genel zeka (AGI) döneminde şirketin sorumlu davranacağına dair güvenini kaybettiği için" istifa ettiğini belirtti.

Kokotajlo daha sonra Fortune'a verdiği demeçte, OpenAI'ın başlangıçta insanlarla aynı düzeyde akıl yürütme yeteneğine sahip, henüz teorik bir yapay zeka türü olan AGI ile ilgili güvenlik sorunlarını araştıran yaklaşık 30 kişiden oluşan bir ekibe sahip olduğunu, ancak bir dizi ayrılığın bu sayıyı neredeyse yarı yarıya azalttığını söyledi.

Şirketin eski hazırlık bölümü başkanı Aleksander Madry, Temmuz 2024'te yeni bir göreve başladı. Bu pozisyon, şirketin modelleri için güvenlik önlemleri, çerçeveler ve değerlendirmeler geliştiren OpenAI'ın Güvenlik Sistemleri ekibinin bir parçası. Bu pozisyonun yıllık maaşı 555.000 dolar artı hisse senedi opsiyonları.

İş ilanında, "Tutarlı, titiz ve operasyonel olarak ölçeklenebilir bir güvenlik hattı oluşturan yetenek değerlendirmeleri, tehdit modelleri ve azaltma yöntemlerinin oluşturulmasından ve koordinasyonundan doğrudan sorumlu lider olacaksınız" deniyor.

Kaynak: BI