Bir Üniversite Öğrencisi Sayesinde Artık Yapay Zeka Yazılı İçeriği Tespit Edebiliyoruz

Bir Üniversite Öğrencisi Sayesinde Artık Yapay Zeka Yazılı İçeriği Tespit Edebiliyoruz

Bir Princeton öğrencisi, AI tarafından oluşturulan metni algılayabilen bir uygulama yarattı. Edward Tian, kış tatili sırasında GPTZero'yu yarattı. Yazılımın bir kişinin mi yoksa ChatGPT'nin mi makale yazıp yazmadığını "hızlı ve verimli bir şekilde" belirleyebileceğini söylüyor. 22 yaşındaki şu anda üniversitede bilgisayar bilimi ve gazetecilik okuyor.

Daily Beast'e konuşan Tian, GPTZero'nun fazla ilgi görmesini beklemediğini söyledi. Yayına "En fazla birkaç düzine kişinin uygulamayı denemesini bekliyordum" dedi. Ancak Streamlit barındırma platformuna yüklendikten birkaç saat sonra, 2000'den fazla kişi beta sürümüne kaydoldu. Programla ilgili haber yayılırken site sonunda çöktü.

Tian, uygulamayı yapay zeka yoluyla artan intihalle mücadele etmek için oluşturdu. ChatGPT'nin piyasaya sürülmesinden bu yana, yapay zeka ile yazılmış çalışmaları kendilerininmiş gibi göstermek için dil modelini kullanan birkaç öğrenci örneği oldu. Bu yüzden yapay zeka içeriğini tespit etmenin bir yolunu bulma görevini üstlendi. Tain, uygulaması kullanıma sunulduğunda, insanların yazılı eserlerin nereden geldiğini bilmeyi hak ettiğini söyledi.

Bir tweet'te "Etrafta dolaşan çok fazla ChatGPT aldatmacası var" dedi. "Bu ve bu AI tarafından mı yazılmış? Biz insanlar olarak bilmeyi hak ediyoruz!" GPTZero, yapay zekayı algılamak için iki ölçüm kullanır. Buna "şaşkınlık ve patlama" da dahildir. Uygulamaya kopyalanan metne, her iki ölçü birimi için de numaralar atanır. Sayı düşükse, metni muhtemelen bir bot oluşturmuştur.

Şaşkınlık, bir cümledeki rastgelelik derecesini ölçen bir ölçüdür. Yazarken beklenmedik bir kelime kullanımı veya yapısı kullanıldığında, daha yüksek bir şaşkınlık puanı verme eğilimindedir. Tian, uygulamasını yapay zekayı tespit etmeye yardımcı olan bu özel metrik için eğitmek üzere ücretsiz ve açık kaynaklı bir dil modeli olan GPT-2'nin özelliklerinden yararlandığından bahsetti.

Patlama, belirli bir metin içindeki rastgelelik seviyesini ifade eder. İnsan yazısı söz konusu olduğunda, cümleler geniş bir karmaşıklık yelpazesi sergiler. Bazıları basittir ve diğerleri oldukça karmaşıktır. Ancak AI, tüm metin boyunca tutarlı bir seviyeyi koruyarak genellikle karmaşıklığı nispeten düşük olan cümleler üretme eğilimindedir.

The Daily Beast'e konuşan Tian, dört kez Pulitzer Ödülü finalisti John McPhee'nin eserlerini okuduktan sonra uygulamayı oluşturmak için ilham aldığını açıklayarak, "Bilgisayarların sahip olabileceği ve asla seçmemesi gereken insan yazılarının güzel nitelikleri var." Uygulaması AI'yı algılayabilse de, 22 yaşındaki teknolojiye karşı değil.

Tian, izin alınarak etik olarak kullanılması durumunda yapay zeka için bir yer olduğuna inanıyor. Kodlamayı desteklemek için CoPilot gibi programları kullandığını kabul ederek, "Mantıklı olduğunda, AI'yı yazmak için kullanmaya karşı değilim" dedi. Uygulamayı açıklamalar ve diğer harika şeylerle büyütmeyi planlasa da Tian'ın şimdilik okula odaklanması gerekiyor.

Bu arada OpenAI, yazılı eserlerde AI tarafından oluşturulan metni tespit etmek için filigranlar getirmeyi planladıklarını belirtti. Ancak şu anda bu görevi yerine getirmenin yerleşik veya resmi bir yöntemi yoktur. Güvenilir bir doğrulama mekanizmasının olmaması, eğitim kurumları ve diğer yaratıcı sektörler için önemli zorluklar yaratabilir. GPTZero'nun ne kadar fark yaratacağını göreceğiz.

Kaynak: Giant Freakin Robot