Google DeepMind, Yapay Zeka ile Oluşturulan Metinler için Filigran Teknolojisini Tanıttı

Yapay zeka teknolojisindeki hızlı gelişmeler, otomatik olarak üretilen metinlerin günlük hayatımızda giderek daha fazla yer almasına neden oluyor. Haberlerden ödev metinlerine, e-postalardan sosyal medya gönderilerine kadar pek çok alanda karşımıza çıkan yapay zeka metinleri, gerçek ile sanal arasındaki çizgiyi bulanıklaştırıyor. Bu durum, yapay zeka ile oluşturulan içeriklerin tespitini ve doğrulanmasını zorlaştırıyor.

Filigran Teknolojisi ile Yapay Zeka Metinleri Etiketlenecek

Google’ın yapay zeka araştırma birimi DeepMind, bu soruna çözüm olarak geliştirdiği yeni bir teknolojiyi tanıttı. Nature dergisinde yayınlanan araştırmaya göre, SynthID-Text adı verilen sistem, yapay zeka tarafından oluşturulan metinlere görünmez bir filigran ekleyerek, bu metinlerin kolayca tespit edilmesini sağlıyor. Google DeepMind araştırmacıları, filigranlı metinlerin kalite, doğruluk, yaratıcılık veya hızdan ödün vermediğini belirtiyor.

Google, Filigran Teknolojisini Gemini Sohbet Robotuna Entegre Etti

Google, yapay zeka tabanlı sohbet robotu Gemini’ye SynthID-Text filigran teknolojisini entegre ettiğini duyurdu. Ayrıca, geliştiricilerin ve işletmelerin kendi büyük dil modellerinden (LLM) gelen metin çıktılarının kaynağını belirlemelerine olanak tanımak için aracı açık kaynak olarak sundu. Ancak şu an için yalnızca Google ve bahsi geçen geliştiriciler filigran tespit aracına erişebiliyor.

Yapay Zeka Metinlerinin Tespiti için Gümüş Bir Kurşun Yok

DeepMind araştırmacıları, geliştirdikleri teknolojinin henüz kusursuz olmadığını ve herkesin erişimine açık olmadığını vurguluyor. Pushmeet Kohli, “SynthID, yapay zeka tarafından oluşturulan içeriği belirlemek için gümüş bir kurşun değil, ancak daha güvenilir yapay zeka tanımlama araçları geliştirmek için önemli bir yapı taşı” diyor.

20 Milyon Sorguda Test Edilen Filigran Teknolojisi

SynthID-Text’in performansı, 20 milyon sorgu üzerinde test edildi. Bu sorguların yarısı SynthID-Text sistemine yönlendirilirken, diğer yarısı standart Gemini yanıtı aldı. Kullanıcıların “beğen” ve “beğenme” geri bildirimlerine göre, filigranlı yanıtların standart yanıtlar kadar tatmin edici olduğu görüldü.

Yapay Zeka Metinlerinin Tespiti için Sektörel İş Birliği Şart

Yapay zeka tarafından oluşturulan metinlerin tespiti için filigran teknolojilerinin yaygın bir şekilde uygulanması gerekiyor. Bunun için, yapay zeka şirketlerinin iş birliği içinde olması ve birlikte çalışabilir çözümler geliştirmesi önemli. Ancak açık kaynaklı büyük dil modellerinin varlığı, filigran işlevselliğinin kolayca kaldırılabileceği anlamına geliyor. Bu nedenle, yapay zeka metinlerinin tespiti konusunda henüz kat edilmesi gereken uzun bir yol var.