Yapay zeka teknolojilerinin gelişmesiyle birlikte deepfake içerikler, sosyal medya platformlarının karşı karşıya olduğu en büyük sorunlardan biri haline geldi. Bir kişinin yüzünü veya görünüşünü kullanarak hiç söylemediği sözleri söylemiş ya da yapmadığı eylemleri gerçekleştirmiş gibi gösteren videoların hazırlanabilmesi, özellikle içerik üreticileri açısından ciddi riskler oluşturuyor. TikTok'un da bu soruna karşı yeni bir çözüm üzerinde çalıştığı bildirildi. Şirket, ABD'deki içerik üreticilerinin kendi benzerliklerinin izinsiz kullanıldığı yapay zeka üretimi videoları bulmasına yardımcı olacak yeni bir aracı test ediyor. Özelliğin, kullanıcıların yüzlerinin yapay zeka tarafından oluşturulan içeriklerde kullanılıp kullanılmadığını daha kolay takip etmesini amaçladığı belirtiliyor. TikTok'un bu hamlesi, sosyal medya platformlarının deepfake içeriklere karşı daha doğrudan önlemler almaya başladığını gösteriyor.
TikTok'un yeni aracı yapay zeka tarafından oluşturulan videoları tarayacak
TikTok'un test ettiği yeni yapay zeka destekli benzerlik tespit aracının, içerik üreticisinin yüzünü veya genel görünüşünü kullanmış olabilecek videoları platform genelinde araması bekleniyor. Kullanıcılar, araç tarafından tespit edilen gönderileri ve hesapları inceleyebilecek. Eğer bir videoda kişinin benzerliğinin izinsiz şekilde yapay zeka kullanılarak oluşturulduğu düşünülürse, ilgili içerik veya hesap TikTok'a bildirilebilecek. Böylece içerik üreticileri, kendileriyle ilişkilendirilen yapay içerikleri manuel olarak aramak zorunda kalmadan daha geniş kapsamlı bir tarama yapabilecek. Sistemin özellikle kişinin yüzünü kullanan ancak gerçek kişiyle herhangi bir bağlantısı olmayan deepfake videoların tespit edilmesine yardımcı olması amaçlanıyor. Ancak TikTok'un aracının ne kadar geniş bir içerik havuzunu tarayabildiği ve yapay zeka tarafından üretilen içerikleri hangi doğruluk oranıyla tespit ettiği henüz bilinmiyor. Özelliğin şu anda test aşamasında olması nedeniyle, nihai sürümde çalışma yönteminde ve kullanım koşullarında değişiklik yapılması da mümkün.
Kullanıcıların kimliklerini doğrulaması gerekecek
Yeni aracın kullanılabilmesi için içerik üreticilerinin öncelikle kimliklerini doğrulaması gerekecek. Bu süreçte gerçek zamanlı bir selfie taraması yapılması ve kullanıcının gerçekten ilgili kişi olduğunun doğrulanması bekleniyor. TikTok'un, bu doğrulama sürecinde kullanıcıların kimlik belgelerini saklamadığını belirttiği aktarılıyor. Kimlik doğrulama işleminin gerçekleştirilmesi için üçüncü taraf bir hizmetten yararlanıldığı ifade ediliyor. Bu yaklaşım, herhangi bir kişinin başkasının benzerliğini korumak amacıyla sisteme başvurmasını önlemeyi amaçlıyor. Benzer bir sistemin YouTube tarafından da kullanıma sunulduğu biliniyor. TikTok'un yeni aracının başarılı olması halinde, özelliğin test sürecinin ardından daha geniş bir kullanıcı kitlesine sunulması bekleniyor.
Deepfake sorunu sosyal medya platformlarında büyüyor
Deepfake içeriklerin oluşturulmasını kolaylaştıran yapay zeka araçları geliştikçe, bu içeriklerin gerçek görüntülerden ayırt edilmesi de zorlaşıyor. Kullanıcıların yüzleri, izinleri olmadan farklı videolara ve görsellere eklenebiliyor. Özellikle kişilerin normal fotoğraflarını kullanarak sahte ve mahrem içerikler oluşturan araçlar, son dönemde ciddi tartışmalara neden oldu. Bu tür uygulamaların bir bölümü resmi uygulama mağazalarından kaldırılmış olsa da benzer araçların internet üzerinde tamamen ortadan kalktığı söylenemiyor. YouTube da bu nedenle daha önce yalnızca politikacılar ve gazeteciler gibi belirli gruplara sunulan benzerlik tespit sistemini daha geniş bir kullanıcı kitlesine açtı. TikTok'un da benzer bir çözüm geliştirmesi, platformların deepfake kaynaklı tehditleri artık yalnızca içerik kaldırma politikalarıyla çözmeye çalışmadığını gösteriyor. Yapay zeka üretimi sahte içeriklerin tamamen ortadan kaldırılması kısa vadede mümkün görünmese de, kullanıcıların kendi benzerliklerinin nerede kullanıldığını tespit edebilmesi bu mücadelede önemli bir araç haline gelebilir.
Henüz hiç yorum yapılmamış. İlk yorumu sen yap!
