Nvidia Vera işlemcisi ortaya çıktı: 88 özel çekirdek, 1,5 TB bellek ve tamamen yeni Olympus mimarisi

Nvidia, uzun yıllardır yapay zekâ hızlandırıcılarıyla veri merkezi pazarında önemli bir konuma sahip olsa da, Vera işlemcisiyle birlikte doğrudan sunucu işlemcisi rekabetine de giriyor. Şirketin ilk tamamen özel tasarımı olan Vera, yalnızca GPU'ları besleyen yardımcı bir işlemci olmanın ötesinde, bağımsız sunucu platformu olarak da kullanılabilecek şekilde geliştirildi. Nvidia'nın açıklamalarına göre Alibaba, ByteDance, Meta, Oracle, CoreWeave, Lambda, Nebius ve NScale gibi büyük bulut sağlayıcıları Vera tabanlı sistemleri kullanmak için şimdiden anlaşma yaptı. Bu da şirketin yalnızca yapay zekâ hızlandırıcılarında değil, CPU pazarında da güçlü bir oyuncu olmayı hedeflediğini gösteriyor. Vera, Grace işlemcisinin devamı niteliğinde olsa da mimari açıdan selefinden oldukça farklı bir yaklaşım benimsiyor. Nvidia, özellikle büyük dil modelleri ve yapay zekâ ajanları gibi yeni nesil iş yüklerini hedef alarak işlemciyi klasik sunucu CPU'larından farklı şekilde tasarladığını vurguluyor.

Olympus çekirdekleri Nvidia'nın ilk özel Arm tasarımını oluşturuyor

Vera'nın en dikkat çekici yeniliği, Nvidia'nın ilk kez tamamen kendi geliştirdiği Olympus isimli Armv9.2 uyumlu işlemci çekirdeklerini kullanması oldu. İşlemci toplam 88 çekirdek ve 176 iş parçacığı sunuyor. Nvidia daha önce Grace ailesinde Arm'ın hazır Neoverse çekirdeklerinden yararlanırken, Olympus ile birlikte çekirdek tasarımını tamamen kendi ihtiyaçlarına göre şekillendirdi. Her çekirdek 10 genişliğinde komut çözücü, sekiz tamsayı ALU'su, altı vektör ve kayan nokta işlem hattı, dört yükleme ve iki depolama birimiyle oldukça güçlü bir yürütme altyapısına sahip. Nvidia ayrıca geleneksel dallanma tahmin sistemlerinden farklı olarak aynı anda iki farklı yürütme yolunu değerlendirebilen yeni nesil sinir ağı tabanlı dallanma tahmincisi kullandığını belirtiyor. Bu yapı özellikle Python tabanlı yapay zekâ iş yükleri ve yoğun dallanma içeren uygulamalarda işlem hattındaki beklemeleri azaltmayı amaçlıyor. Şirket ayrıca bellek yeniden adlandırma ve değer tahmini gibi gelişmiş tekniklerle komut yürütme verimliliğini artırdığını ifade ediyor.

Monolitik tasarım ve yüksek bant genişliği öne çıkıyor

AMD'nin çoklu çiplet mimarisinden farklı olarak Vera, 88 çekirdeğin tamamını tek bir monolitik işlemci yongasında topluyor. Nvidia bunun çekirdekler arası iletişim gecikmesini önemli ölçüde azalttığını ve yüksek bant genişliği sağladığını savunuyor. İşlemci paketinde ana hesaplama yongasının yanında LPDDR5X bellek denetleyicileri ile PCIe ve NVLink bağlantılarından sorumlu ayrı G/Ç yongaları bulunuyor. Bu yapı sayesinde işlemci hem yüksek performansı hem de modüler bağlantıları aynı pakette sunabiliyor. Nvidia'nın ikinci nesil Scalable Coherency Fabric (SCF) bağlantı yapısı ise tüm çekirdekleri 3,4 TB/sn seviyesinde çift yönlü bant genişliğiyle birbirine bağlıyor. Aynı altyapı, işlemci genelinde dağıtılmış sistem seviyesi önbelleğinin de temelini oluşturuyor. Nvidia'ya göre bu mimari özellikle çok çekirdekli yapay zekâ uygulamalarında darboğazları önemli ölçüde azaltıyor.

1,5 TB LPDDR5X bellek ve 1,8 TB/sn NVLink bağlantısı

Vera'nın en dikkat çeken özelliklerinden biri de bellek ve bağlantı altyapısı oldu. İşlemci, sekiz LPDDR5X bellek denetleyicisi sayesinde 1,5 TB'a kadar bellek kapasitesi ve 1,2 TB/sn bellek bant genişliği sunabiliyor. Nvidia'nın çift soketli Vera CPU Superchip çözümünde ise iki işlemci toplam 176 çekirdek, 352 iş parçacığı ve 3 TB LPDDR5X bellek kapasitesine ulaşıyor. İki işlemci arasındaki iletişim ise NVLink-C2C bağlantısıyla 1,8 TB/sn çift yönlü bant genişliği üzerinden gerçekleştiriliyor. Şirket, bu yapı sayesinde klasik çift soketli sunucularda görülen işlemciler arası iletişim darboğazlarının büyük ölçüde ortadan kaldırıldığını belirtiyor. Nvidia ayrıca tek bir sıvı soğutmalı rafta 128 Vera Superchip kullanılarak toplam 22.528 çekirdek ve 384 TB belleğe sahip yapay zekâ sistemleri kurulabileceğini öngörüyor.

PCIe 6.0 ve CXL 3.1 desteğiyle geliyor

Yeni işlemci yalnızca hesaplama tarafında değil, giriş-çıkış altyapısında da güncel teknolojileri destekliyor. Vera, PCIe 6.0 ve CXL 3.1 desteği sunan ilk veri merkezi işlemcileri arasında yer alıyor. PCIe 6.0 sayesinde x16 bağlantıda teorik olarak 128 GB/sn tek yönlü veri aktarım hızı elde edilirken, CXL 3.1 desteği gelecekte çok işlemcili bellek havuzları ve paylaşımlı bellek mimarileri için önemli avantajlar sağlıyor. Tek soketli yapılandırmada işlemci toplam 96 PCIe hattı, çift soketli sistemde ise 176 PCIe hattı sunuyor. Bu altyapı yüksek hızlı ağ kartları, NVMe depolama çözümleri ve yapay zekâ hızlandırıcılarının aynı sistem üzerinde yüksek performansla çalışmasına olanak tanıyor.

Nvidia'nın SMT yaklaşımı klasik Hyper-Threading'den farklı

Olympus mimarisinin en ilginç yeniliklerinden biri ise Nvidia'nın "Spatial Multithreading" adını verdiği çoklu iş parçacığı sistemi oldu. Klasik SMT veya Intel Hyper-Threading yaklaşımında iki iş parçacığı aynı yürütme kaynaklarını paylaşırken, Nvidia'nın çözümü çekirdeği iki daha küçük yürütme alanına ayırıyor. Bu nedenle şirket bunu eş zamanlı çoklu iş parçacığından ziyade uzamsal çoklu iş parçacığı olarak tanımlıyor. Nvidia'ya göre bu yapı özellikle konteyner tabanlı yapay zekâ ajanlarında uygulama ile konteyner çalışma zamanını birbirinden ayırarak daha öngörülebilir performans sağlıyor. Böylece aynı fiziksel çekirdek üzerinde çalışan iki farklı iş yükü birbirinin kaynaklarını daha az etkiliyor.

Performans iddiaları bağımsız testleri bekliyor

Nvidia'nın paylaştığı resmi test sonuçlarına göre Vera, ajan tabanlı yapay zekâ senaryolarında AMD'nin 128 çekirdekli EPYC 9755 işlemcisine kıyasla çekirdek başına 1,8 kata kadar, grafik geçişi odaklı bazı iş yüklerinde ise 2,6 kata kadar daha yüksek performans sunabiliyor. Ancak bu sonuçlar Nvidia'nın kendi seçtiği test senaryolarına dayanıyor ve henüz bağımsız laboratuvarlar tarafından doğrulanmış değil. Üstelik AMD'nin yeni nesil EPYC Venice ailesi ile Intel'in Diamond Rapids Xeon işlemcileri de önümüzdeki dönemde piyasaya çıkacak. Bu nedenle Vera'nın gerçek rekabet gücü ancak bağımsız performans testleri ve üretim sistemleri üzerinde yapılacak karşılaştırmalarla netlik kazanacak. Buna rağmen Vera'nın özellikle Rubin GPU'lu yeni nesil yapay zekâ sunucularının temel işlemcisi olması bekleniyor ve bu durum, performansından bağımsız olarak işlemcinin veri merkezi pazarında önemli bir yaygınlığa ulaşabileceğine işaret ediyor.