Çocukların Rızası Olmadan Yapay Zeka Modellerine Dahil Edilen Fotoğraflar Endişe Yaratıyor

İnsan Hakları İzleme Örgütü (HRW), Brezilyalı çocukların tüm çocukluk dönemlerini kapsayan fotoğraflarının, rızaları olmadan yapay zeka araçlarını eğitmek için kullanıldığını açıkladı. Stable Diffusion gibi popüler görüntü oluşturucuların da dahil olduğu bu durum, çocukların gizliliği açısından ciddi riskler oluşturuyor.

Çocukların Kimliği Kolayca Tespit Edilebiliyor

HRW araştırmacısı Hye Jung Han, 5.85 milyar görüntü ve başlıktan oluşan devasa bir veri setinin küçük bir kısmını inceleyerek, en az 10 Brezilya eyaletinden 170 çocuk fotoğrafı tespit etti. Bu fotoğrafların çoğu, kişisel ve ebeveynlik bloglarına yüklenen aile fotoğraflarıydı. Yapay zeka veri setlerinde yer alan görüntü başlıklarında çocukların isimleri ve konumları da bulunduğundan, kimliklerinin kolayca tespit edilebileceği belirtildi.

Yapay Zeka Araçları Çocuklar İçin Tehdit Oluşturuyor

Özellikle orta ve lise çağındaki öğrencilerin, “masum fotoğrafların” açık görüntülere dönüştürülmesi riskiyle karşı karşıya olduğu bir dönemde, yapay zeka araçlarının bu tür veri setlerinden faydalanarak çocukların klonlarını oluşturma olasılığı endişe verici boyutlara ulaşıyor. Zorbalık veya kötü niyetli kişilerin hedefi haline gelebilecek çocuklar için yapay zeka, ciddi bir tehdit unsurudur.

Veri Setleri Çocukların Tüm Yaşamını Kapsıyor

HRW’nin raporuna göre, incelenen fotoğraflar çocukluğun tamamını kapsıyor. Doğdukları andan itibaren, doğum günü pastalarının mumlarını üflerken, evde iç çamaşırlarıyla dans ederken, okulda sunum yaparken ve liselerinin karnavalında poz verirken çekilen özel anlar bu fotoğraflarda yer alıyor. Bu kadar kişisel ve hassas görüntülerin yapay zeka modellerine dahil edilmesi, çocukların gizliliğini ihlal ediyor.

Açık Kaynaklı Yapay Zeka Veri Setleri Kaldırıldı

LAION adlı kar amacı gütmeyen Alman kuruluşu, çocukların fotoğraflarına bağlantıları veri setinden kaldırmak için HRW ile işbirliği yaptı. Ancak bu, sorunun tamamen çözüldüğü anlamına gelmiyor. Kaldırılan bağlantıların, LAION-5B veri setindeki çocukların kişisel verilerinin önemli bir eksik sayımı olması muhtemel. Ayrıca, bu görüntüler hala halka açık web üzerinde mevcut ve başka yapay zeka veri setlerinde kullanılabiliyor.

Çocukların Verilerini Korumak İçin Acil Politikalara İhtiyaç Var

Brezilya’da en az 85 kız öğrenci, sınıf arkadaşlarının yapay zeka araçlarını kullanarak sosyal medya profillerindeki fotoğraflardan cinsel içerikli deepfake’ler oluşturduğunu bildirdi. Bu tür deepfake’ler internete yüklendiğinde, çocukların hayatları boyunca “kalıcı zarar” verebilir. HRW araştırmacısı Han, “Çocuklar, fotoğraflarının çalınıp kendilerine karşı silah olarak kullanılacağı korkusuyla yaşamamalı” diyerek, hükümetlerin çocukların verilerini yapay zeka istismarından korumak için acilen politikalar benimsemesi gerektiğini vurguladı.