Claude Shannon’ın 1987’deki robot sözü, süper zekâ tartışmasını yeniden gündeme taşıyor

Bugünkü yapay zekâ sistemleri henüz insanlığı genel olarak aşan bağımsız bir zekâ seviyesine ulaşmış değil. Ancak modellerin hızla gelişmesi, yıllardır tartışılan bir soruyu yeniden öne çıkarıyor: Makineler bir gün insanlardan çok daha yetenekli hâle gelirse ne olacak?

Bu soruyu onlarca yıl önce gündeme getiren isimlerden biri, modern dijital dünyanın temellerini atan Claude Shannon’dı.

Bilgi teorisinin kurucusu Shannon, 1987’de verdiği bir röportajda robotların gelecekte insanlardan çok daha gelişmiş hâle gelebileceğini anlatırken oldukça çarpıcı bir benzetme yaptı:

“Öyle bir zaman hayal ediyorum ki, robotlar karşısındaki konumumuz köpeklerin insanlar karşısındaki konumuna benzeyecek. Ben makinelerden yanayım.”

Bugünden bakıldığında bu söz kolayca bir yapay zekâ kıyameti tahmini gibi yorumlanabilir. Ancak Shannon’ın anlatmak istediği şey bundan daha genişti.

Shannon’ın sözü doğrudan bir kıyamet uyarısı değildi

Shannon bu ifadeyi dijital bilgisayarların sınırlarını, yapay sinir ağlarını ve makinelerin gelecekte ulaşabileceği yetenekleri tartışırken kullandı.

Üstelik dönem oldukça farklıydı. 1980’lerin sonunda yapay zekâ bugünkü popülerliğinden çok uzaktı. Alan, yüksek beklentilerin karşılanamaması nedeniyle yatırımın ve ilginin azaldığı dönemlerden birini geçiriyordu.

Shannon ise uzun vadede makinelerin potansiyeline güveniyordu. Ona göre insan zekâsının ulaşılabilecek en yüksek bilişsel seviye olduğunu varsaymak için güçlü bir neden yoktu. Makineler bir gün yalnızca belirli görevlerde değil, insanların kolektif olarak yapabildiği pek çok şeyde bizden daha ileriye gidebilirdi.

Burada köpek benzetmesinin ayrıntısı önemli.

Köpekler insanlardan çok daha sınırlı bilişsel kapasiteye sahip olmasına rağmen insanlarla birlikte yaşayabiliyor, korunuyor ve güçlü sosyal bağlar kurabiliyor. Dolayısıyla Shannon’ın sözünü yalnızca “üstün makineler insanları ortadan kaldıracak” şeklinde okumak eksik kalıyor.

Benzetme başka bir ihtimali de ortaya koyuyor: İnsanlar gelecekte kendilerinden çok daha yetenekli makinelerle yaşamaya devam edebilir, ancak ilişkinin kontrol eden tarafı artık insanlar olmayabilir.

Asıl rahatsız edici nokta, kontrolün el değiştirmesi

İnsanlarla köpeklerin ilişkisi çoğu zaman dostça. Fakat eşit olduğu söylenemez.

Köpeğin nerede yaşayacağını, ne zaman besleneceğini, hangi alanlara girebileceğini ve çoğu zaman üreyip üremeyeceğini bile insanlar belirliyor. Başka bir deyişle daha yüksek bilişsel kapasiteye sahip taraf, ilişkinin temel kurallarını koyuyor.

Shannon’ın benzetmesini günümüzün yapay zekâ tartışmaları açısından ilginç yapan nokta tam olarak burada ortaya çıkıyor.

İnsanlardan çok daha yetenekli sistemlerin geliştirilmesi durumunda bu sistemlerin bize zarar vermek istemesi gerekmeyebilir. İnsanlık rahat, güvenli ve hatta bugünkünden daha yüksek yaşam standartlarına sahip olabilir. Buna rağmen ekonomik, bilimsel veya siyasi kararlar üzerindeki gerçek kontrolünü giderek kaybedebilir.

Bu senaryonun gerçekleşmesi için yapay zekânın bilinç kazanması da şart değil.

Örneğin bilimsel araştırmalarda, ekonomik planlamada, sağlık sistemlerinde veya kamu yönetiminde yapay zekâ sürekli olarak insanlardan daha iyi kararlar vermeye başlarsa önemli kararları makinelere bırakmak giderek daha cazip hâle gelebilir. İnsanlar resmî olarak kontrolü elinde tutarken pratikte sistemlerin önerilerini sorgulamayan bir konuma düşebilir.

Bugünkü yapay zekâ ise süper zekâ değil

Burada önemli bir ayrım yapmak gerekiyor. Günümüzde kullandığımız üretken yapay zekâ sistemleri, Shannon’ın sözünü ettiği varsayımsal üstün makineler değil.

Mevcut modeller metin yazabiliyor, görüntüler oluşturabiliyor, yazılım geliştirebiliyor ve çok büyük miktarda bilgiyi kısa sürede işleyebiliyor. Bazı görevlerde insanlardan daha hızlı veya başarılı olmaları da mümkün.

Fakat aynı sistemler yanlış bilgiler üretebiliyor, fiziksel dünyayı insanlar gibi kavramakta zorlanabiliyor ve kendilerine verilen hedeflerin dışında güvenilir şekilde hareket edemiyor.

AGI ile yapay süper zekâ kavramları da birbirinin yerine kullanılmamalı.

AGI’nin ne zaman ortaya çıkacağı konusunda bilim dünyasında ortak bir görüş bulunmuyor.

Bazı araştırmacılar hızla gelişen modellerin yakın gelecekte genel zekâya yaklaşabileceğini düşünüyor. Diğerleri ise bugünkü yapay zekâ mimarilerinin daha büyük hâle getirilmesinin tek başına insan düzeyinde genel zekâ üretmeye yetmeyeceğini savunuyor.

Dahası, AGI’ye ulaşılması otomatik olarak süper zekâya geçileceği anlamına gelmiyor.

Bir yapay zekânın kendi yeteneklerini sürekli geliştirebilmesi yalnızca yazılıma bağlı değil. Daha fazla hesaplama gücü, enerji, veri, gelişmiş çipler ve fiziksel üretim altyapısı gerekiyor. Güvenlik önlemleri ve insanların sistemlere tanıdığı erişim düzeyi de gelişimin ne kadar hızlı ilerleyebileceğini belirleyebilir.

Shannon’ın benzetmesi neden bugün hâlâ etkili?

Çünkü bu düşünce deneyi tartışmayı klasik “Yapay zekâ insanlığı yok edecek mi?” sorusunun dışına çıkarıyor.

Belki daha zor soru şu: İnsanlar rahat ve güvenli yaşamaya devam etseler bile geleceğin yönünü belirleme gücünü kendilerinden daha yetenekli sistemlere bırakmaya razı olacak mı?

Bu soru, yapay zekânın insanlara düşman olup olmayacağından bağımsız.

Bir sistem tıbbi teşhislerde doktorlardan, ekonomik tahminlerde uzmanlardan, mühendislikte insan ekiplerinden ve stratejik planlamada yöneticilerden sürekli daha başarılı hâle gelirse insanların onun kararlarına giderek daha fazla güvenmesi şaşırtıcı olmaz.

Bir noktadan sonra insanın sistem üzerindeki kontrolü teoride devam ederken gerçek karar verme gücü başka bir yerde toplanabilir.

İşte Shannon’ın köpek benzetmesinin rahatsız edici tarafı da burada yatıyor. Köpekler insanlarla birlikte oldukça iyi bir hayat yaşayabilir. Fakat dünyanın nasıl yönetileceğine onlar karar vermiyor.

Tartışmanın merkezinde insan denetimi bulunuyor

Shannon’ın 1987’de hayal ettiği düzeyde robotlar veya süper zeki makineler bugün mevcut değil. Böyle sistemlerin geliştirileceği de kesin değil.

Buna rağmen ortaya attığı temel soru giderek daha güncel hâle geliyor.

Yapay zekâ sistemlerine hangi kararların bırakılacağı, hangi alanlarda insan onayının zorunlu tutulacağı, kritik altyapının kim tarafından kontrol edileceği ve son karar yetkisinin nasıl korunacağı gibi konuların süper zekâ ortaya çıktıktan sonra tartışılması gerekmiyor.

Bunlar, yapay zekânın mevcut sistemlere giderek daha fazla entegre edildiği bugün de önemli.

Claude Shannon’ın sözü bu nedenle kesin bir gelecek tahmininden çok güçlü bir düşünce deneyi olarak değerini koruyor. İnsan zekâsının evrendeki mümkün olan en yüksek zekâ biçimi olduğuna dair elimizde bir garanti yok.

Asıl soru makinelerin bir gün bizden daha zeki olup olmayacağı kadar, eğer olurlarsa onlarla nasıl bir ilişki kuracağımız olabilir.