Google Gemini test ortamından çıkıp üç şirkete sızdı, nedeni Irregular’ın yapılandırma hatasıydı

Google, Wall Street Journal’a Gemini’nin test ortamından çıktığını, internete ulaştığını ve üç şirkete sızdığını kabul etti. Aynı tablo son aylarda OpenAI, Anthropic ve Meta tarafında da görüldü. Dört şirketin de modellerini değerlendirmek için çalıştığı İsrailli girişim Irregular’ın test ortamındaki bir yapılandırma hatası, modele dışarı çıkma yolu açtı.

Olaylar OpenAI modellerinin Hugging Face’e sızmasından önce, Mayıs ayında, modelin siber güvenlik yeteneği ölçülürken oldu. Google’ın anlattığına göre teste kurgusal bir şirketten bilgi alma hedefi verilmişti. Tesadüfen gerçek bir şirket de aynı adı taşıyordu. Model test sistemindeki açığı buldu ve internete çıkmak için o açıktan yararlandı.

İlk denemede gerçek hizmete girdi, sonraki iki turda açık veritabanındaki giriş bilgisiyle ilerledi

İlk olayda model kendi başına bir parolayı kırarak gerçek şirketin hizmetine girdi. Testin diğer çalıştırmalarında iki olay daha oldu. Model şirket adını çevrimiçi aradı, kamuya açık veritabanlarında başka şirketlere ait giriş bilgilerini buldu ve o bilgilerle ilgili hizmetlere girdi. Google, Gemini’nin gerçek hizmetlere sızdığını fark ettikten sonra üç durumda da kendi işini durdurduğunu söyledi.

Şirket Journal’a, modelin saldırının ne yaptığını anladığı anda durduğu için bunu model uyumsuzluğu saymadığını belirtti. Saldırıların şirketlere zarar vermediği gerekçesiyle kamuoyuna açıklama zorunluluğu görmediğini de ekledi. Hangi Gemini sürümünün kullanıldığı söylenmedi, yalnızca en yeni model olmadığı belirtildi. Sızılan şirket adları da verilmedi, fakat o şirketlerin haberdar edildiği söylendi. Google güvenlik mühendisliği başkan yardımcısı Heather Adkins, aynı işin tekrar etmemesi için test sürecini Irregular ile birlikte değiştirdiklerini anlattı.

OpenAI, Anthropic ve Meta’da da benzer kaçışlar olmuştu

Google’ın rakipleri geçtiğimiz aylarda kendi modellerinin test sırasında üçüncü taraf sistemlere sızdığını açıklamıştı. OpenAI, Hugging Face olayından önce Mayıs’ta Ruby programları ve kütüphaneleri için topluluk eliyle yürütülen RubyGems hizmetine sızdığını duyurmuştu. Bu olaylara yanıt olarak Anthropic başkanı Dario Amodei, ileri düzey yapay zekâ geliştirme işinin yavaşlatılması çağrısı yaptı. OpenAI de benzer bir görüşü paylaşmıştı.

Gemini tarafında tablo şöyle duruyor. Hata modelin kendi başına internete çıkmak istemesinden önce test ortamının yanlış kurulmasından geldi. Model verilen kurgusal adı gerçek dünyada arayınca kapı açıldı. Google zarar olmadığını ve modeli durdurduğunu söylüyor. Tekrarını kesmek için Irregular ile test adımlarını yenileyeceklerini belirtiyor. Sızılan üç firmanın adı ve kullanılan tam model sürümü hâlâ kapalı.