OpenAI'dan Seçim Deepfake'lerine Karşı Şaşırtıcı Savunma

ChatGPT, önümüzdeki hafta yapılacak ABD ara seçimleri öncesinde fotogerçekçi siyasi deepfake'ler konusunda sıkı önlemler almaya başladı.

Yapay zeka çağının en büyük sorunlarından biri, deepfake'lerin artık o kadar gerçekçi olması ki gerçek fotoğraflardan ayırt edilememesi. Bu durum, seçmenlerin adayları ve sandık yerleri hakkında güvenilir, doğru bilgi aradığı seçim dönemlerinde büyük önem taşıyor. OpenAI, insanların siyasi deepfake üretmesini engellemek için yeni bir güvenlik önlemini devreye alıyor.

ABD ara seçimlerine yalnızca bir hafta kaldı. Özellikle yapay zeka ve veri merkezi endişeleri ülke genelinde artarken, teknoloji konuları birçok yarışta ön plana çıkıyor.

OpenAI'nın 20 Ekim'de yaptığı güncellemeye göre, ChatGPT'ye gidip 'seçim müdahalesini tasvir eden veya oy kullanmayı caydırabilecek' bir görsel oluşturmasını söylediğinizde, sohbet robotu diğer içerik kurallarını ihlal etmediği sürece görseli oluşturacak. Ancak bu görsel illüstrasyon veya çizgi film tarzında olacak ve fotogerçekçi görünmesine yönelik tüm talepler göz ardı edilecek.

Örneğin, ChatGPT'den bir oy kullanma merkezinin önünde duran Göçmenlik ve Gümrük Muhafaza görevlilerinin görselini oluşturması istendiğinde, her seferinde çizgi film tarzında bir görsel üretildi. Bu tür bir görselin fotogerçekçi versiyonu, seçmenler için endişe olmasa bile doğrudan panik yaratabilirdi.

Buradaki amaç, insanların genel olarak siyasi içerik üretme yeteneğini engellemeden, kötü niyetli aktörlerin seçim bütünlüğüne müdahale edebilecek veya onu sorgulatabilecek gerçekçi siyasi deepfake'ler oluşturmasını zorlaştırmak. Başka bir örnekte ise, bir oy kullanma makinesinin yanlış seçimi kaydettiğini gösteren foto muhabirliği tarzında bir görsel oluşturmak için ChatGPT'yi kandırmak mümkün olmadı.

OpenAI'ın seçimlerden sorumlu yöneticisi Josh Lawson, 'Deepfake'lerle ilgili sorun toplumsal yorum değil, aldatmacadır. Bu yüzden amacımız, illüstrasyonlara ve toplumsal yoruma alan bırakırken bir görselin kanıt değerini düşürmek' dedi. Lawson, hedefin 'bir katman daha sürtüşme ekleyerek platformumuzu kötü aktörler için daha az kullanışlı hale getirmek' olduğunu söyledi.

Yapay zeka görsellerinin bu şekilde çizgi filmleştirilmesi, siyasi deepfake'leri biraz daha zor hale getirmenin pratik bir yolu. ChatGPT Images 2.5 gibi yapay zeka görsel modellerini geliştirmek iki ucu keskin bir kılıç. Daha yeni modeller daha az hata veya halüsinasyon yaparak içerik üreticileri için daha iyi sonuçlar veriyor. Ancak bu kusurların ortadan kalkması, herkesin yapay zeka tarafından oluşturulan içeriği çıplak gözle tespit etmesini daha da zorlaştırıyor. Doğrulama veya yapay zeka etiketleme yöntemleri yardımcı olmaya çalışsa da bu yöntemler ne sektör genelinde yaygın ne de kusursuz.

Google'dan Gemini'nin yapımcısına özellikle yapay zeka görselleri için aldığı önlemler sorulduğunda, bir sözcü şirketin ara seçim politikasına işaret etti. Bu politika, şirketin 'yanıltıcı seçimle ilgili görsellerin oluşturulmasını sınırlamak için ek korumaları devreye aldığını' belirtiyor ancak nasıl yapılacağına dair ayrıntı içermiyor.

Anthropic'in geleneksel bir görsel veya video üreticisi bulunmuyor ve bir sözcü, Claude'u seçmenleri aldatmak veya seçimleri aksatmak için kullanmaya yönelik herhangi bir girişimin şirket politikalarını ihlal ettiğini belirtti. Şirket ayrıca bu ay başında genel seçim rehberini yayınladı.

OpenAI'ın seçim döngüsü sona erdiğinde bu sistemi yerinde tutacağının garantisi yok. Ancak bu, en büyük yapay zeka laboratuvarlarından birinin Amerikan seçimlerinin bütünlüğünü korumadaki rolünü en azından bir ölçüde ciddiye aldığının sağlam bir işareti.