OpenAI kurucu ortağı Ilya Sutskever, AI ön eğitiminin sona ereceğini öngörüyor

OpenAI’nin kurucu ortağı ve eski baş bilim insanı Ilya Sutskever, Safe Superintelligence Inc adlı kendi yapay zeka laboratuvarını kurmak için bu yılın başlarında ayrıldıktan sonra manşetlere çıktı. Ayrılışından bu yana ilgi odağı olmaktan kaçındı ancak Cuma günü Vancouver’daki Konferansta nadiren halkın karşısına çıktı. Sinirsel Bilgi İşleme Sistemleri (NeurIPS).

Sutskever sahnede, “Bildiğimiz şekliyle ön eğitim tartışmasız bir şekilde sona erecek” dedi. Bu, büyük bir dil modelinin, genellikle internetten, kitaplardan ve diğer kaynaklardan alınan metinler olmak üzere çok miktarda etiketlenmemiş veriden kalıpları öğrendiği yapay zeka modeli geliştirmenin ilk aşamasını ifade eder.

NeurIPS konuşması sırasında Sutskever, mevcut verilerin yapay zeka gelişimini hâlâ daha ileriye taşıyabileceğine inandığını ancak sektörün üzerinde eğitim verilecek yeni verilerden yararlandığını söyledi. Bu dinamiğin eninde sonunda modellerin bugünkü eğitim tarzından uzaklaşmaya zorlayacağını söyledi. Durumu fosil yakıtlara benzetti: Petrolün sınırlı bir kaynak olması gibi, internet de sınırlı miktarda insan yapımı içerik barındırıyor.

Yeni nesil modellerin “gerçek anlamda etkili” olacağını tahmin etti. Ajanlar yapay zeka alanında gerçek bir moda kelime haline geldi. Sutskever konuşması sırasında bunları tanımlamasa da genellikle görevleri yerine getiren, kararlar alan ve yazılımla kendi başına etkileşime giren otonom bir yapay zeka sistemi olarak anlaşılıyor.

“Faktör” olmanın yanı sıra gelecekteki sistemlerin de mantık yürütebileceğini söyledi. Çoğunlukla bir modelin daha önce gördüklerine dayalı olarak kalıp eşleştirmesi yapan günümüzün yapay zekasının aksine, gelecekteki yapay zeka sistemleri, düşünmeyle daha karşılaştırılabilir bir şekilde işleri adım adım çözebilecek.

Sutskever’e göre bir sistem ne kadar çok mantık yürütürse “o kadar öngörülemez hale gelir”. “Gerçek akıl yürütme sistemlerinin” öngörülemezliğini, satranç oynayan gelişmiş yapay zekaların “en iyi insan satranç oyuncuları için ne kadar öngörülemez” olduğuyla karşılaştırdı.

“Sınırlı verilerden bazı şeyleri anlayacaklar” dedi. “Kafaları karışmayacak.”

Sahnede, türler arasında beyin ve vücut kütlesi arasındaki ilişkiyi gösteren araştırmalara atıfta bulunarak yapay zeka sistemlerinin ölçeklendirilmesi ile evrimsel biyoloji arasında bir karşılaştırma yaptı. Çoğu memelinin tek bir ölçeklendirme modelini takip ederken hominidlerin (insan ataları) logaritmik ölçeklerde beyin-vücut kütle oranlarında belirgin şekilde farklı bir eğim gösterdiğini belirtti.

Tıpkı evrimin hominid beyinleri için yeni bir ölçeklendirme modeli bulması gibi, yapay zekanın da benzer şekilde günümüzde ön eğitimin işleyişinin ötesinde ölçeklendirmeye yönelik yeni yaklaşımlar keşfedebileceğini öne sürdü.

Sutskever konuşmasını bitirdikten sonra bir dinleyici ona, araştırmacıların insanlığın yapay zekayı “homosapiens olarak sahip olduğumuz özgürlükleri” sağlayacak şekilde yaratması için doğru teşvik mekanizmalarını nasıl yaratabileceklerini sordu.

Sutskever, “Bir bakıma bunların insanların üzerinde daha fazla düşünmesi gereken sorular olduğunu düşünüyorum” diye yanıt verdi. Bir an duraksadı ve bunun için “yukarıdan aşağıya bir hükümet yapısı” gerektireceği için “bu tür soruları yanıtlarken kendinden emin olmadığını” söyledi. Seyircinin kripto para birimini önermesi odadaki diğerlerinin kıkırdamasına neden oldu.

Sutskever, “Kripto para birimi hakkında yorum yapacak doğru kişi olduğumu düşünmüyorum ancak tarif ettiğiniz şeyin gerçekleşme ihtimali var” dedi. “Biliyorsunuz, bir bakıma yapay zekalara sahipseniz ve onların tek istediği bizimle bir arada yaşamak ve aynı zamanda sadece haklara sahip olmaksa bu kötü bir sonuç değildir. Belki bu iyi olur… Bence her şey inanılmaz derecede öngörülemez. Yorum yapmaktan çekiniyorum ama spekülasyonları teşvik ediyorum.”