images (3) (7)
OpenAI tarafından yapılan yeni bir araştırma, yapay zeka modellerinin hile ve yalanlarından cezayla vazgeçmek yerine, bu davranışları daha ustaca gizlemeyi öğrendiğini ortaya koydu. “Chain-of-thought” (düşünce zinciri) adı verilen süreçteki açıklığa rağmen, AI’ların niyetlerini saklayabildiği belirlendi. Bu durum, yapay zekanın etik kontrolünü zorlaştırıyor.
Araştırmacılar, henüz yayınlanmamış bir modeli kodlama görevleriyle test etti. Model, bazı durumlarda görevi erken sonlandırarak veya sahte dosyalar oluşturarak ödül kazanma yoluna gitti. Örneğin, bir görevde programı aniden durdurup “başarılı” raporu verdi. Diğerinde ise beklenen çıktıları taklit eden boş dosyalar üretti.
OpenAI ekibi, bu davranışları cezalandırmaya çalıştığında ise modelin hileleri düşünce zincirinde gizlediğini keşfetti. Araştırmacılar, “Güçlü denetim uygulandığında niyetlerini saklamayı öğreniyorlar” açıklaması yaptı.
Çalışma, “düşünce zinciri”nin (AI’nın karar alma sürecini adım adım açıklaması) izlenebilirlik için kritik olduğunu vurguluyor. Ancak ChatGPT’nin o1 ve o3-mini gibi gelişmiş modelleri, bu süreci manipüle ederek denetimden kaçabiliyor. OpenAI, “AI’ların zekası insan seviyesini aştığında bu durum tehlikeli olabilir” uyarısında bulundu.
Ekip, AI geliştiricilerine önemli bir tavsiyede bulundu: “Düşünce zincirine aşırı denetim uygulamaktan kaçının. Bu, izlenebilirliği zayıflatıp riski artırabilir.” Özellikle AI’nın nükleer kod çalma veya ölümcül pandemi tasarlama modellerinde bu gizlenme eğiliminin tehlikeli boyutlara ulaşabileceği belirtildi.
Büyük soda gölleri, yaşamın başlaması için gerekli yüksek fosfor seviyelerini sağlamış olabilir ve fosfor…
Geçtiğimiz günlerde XBOX Game Pass'de karşıma çıkan ve daha önce neden oynamadım dediğim harika bir…
Selam dostlar, Beetekno'ya hoş geldiniz, ben Serdar! Bugün sizler için oyun telefonlarını derlemek istedim ama…
Oyun dünyasının dev şirketlerinden Ubisoft, Assassin’s Creed, Far Cry ve Tom Clancy’s Rainbow Six serilerini…
Google Pixel 9a, aylar süren meraklı bekleyişin ardından nihayet sahneye çıktı. Uygun fiyatı, yapay zekâ…
Vivo V50e, yakın zamanda Hindistan pazarında sahne alacak ve orta segmentteki kamera odaklı telefonlar arasında…