Coworker.ai OM2'yi Tanıttı: Yapay Zekâda Token Tüketimini 9 Kat Azaltma İddiası

Bir çalışan basit bir soru sorduğunda bile sistemin belgeleri, Slack konuşmalarını, CRM kayıtlarını ve toplantı notlarını yeniden taraması gerekebiliyor. Aynı şirket bilgisinin her sorguda modele tekrar gönderilmesi ise hem token tüketimini artırıyor hem de yanıt almak için daha uzun süre beklenmesine neden oluyor.

Coworker.ai, OM2 adını verdiği yeni sistemiyle tam olarak bu soruna çözüm bulmak istiyor. OM2'yi şirketlerin yapay zekâ sistemleri için ortak bir hafıza gibi düşünebilirsiniz. Şirketin açıkladığı verilere göre bu yapı, token tüketimini 9 kata kadar azaltırken yanıt sürelerini %64'e kadar kısaltabiliyor.

İddialar bununla da sınırlı değil. OM2, görevleri uygun yapay zekâ modellerine dağıtan yönlendirme sistemiyle birlikte kullanıldığında Coworker.ai toplam maliyet avantajının 51 kata kadar çıkabileceğini söylüyor.

Yapay zekâ şirketinizi her soruda yeniden öğrenmiyor

Bugün kullanılan birçok kurumsal yapay zekâ sistemi benzer bir mantıkla çalışıyor. Siz bir soru soruyorsunuz, sistem ilgili belgeleri buluyor ve gerekli olduğunu düşündüğü içerikleri yapay zekâ modeline gönderiyor.

Bu yöntem çalışıyor, ancak ciddi bir verimsizlik yaratabiliyor. Çünkü dün işlenen bir şirket bilgisinin bugün yeniden okunması, yarın başka bir sorguda tekrar işlenmesi gerekebiliyor.

OM2 ise bu döngüyü kırmaya çalışıyor.

Sistem Salesforce ve Slack dahil olmak üzere 50'den fazla kurumsal platformdan sürekli veri topluyor. Fakat gelen bilgileri yalnızca devasa bir belge arşivine dönüştürmüyor. Kişiler, müşteriler, projeler, kararlar ve şirket içindeki olaylar arasındaki ilişkileri de yapılandırılmış şekilde kaydediyor.

Örneğin Salesforce'ta büyük bir satış tamamlandığını düşünün. Aynı gün Slack'te ürünle ilgili önemli bir değişiklik konuşulmuş ve bir toplantıda yeni bir stratejik karar alınmış olabilir. OM2 tüm bunları önceden işleyerek daha sonra kullanılabilecek anlamlı bilgilere dönüştürüyor.

Böylece birkaç gün sonra bir çalışan bu konulardan biri hakkında soru sorduğunda yapay zekânın onlarca belgeyi yeniden okuyarak parçaları birleştirmesi gerekmiyor. İhtiyaç duyduğu kurumsal hafıza büyük ölçüde hazır bekliyor.

Coworker.ai, token tüketiminin 9 kat azalabileceğini söylüyor

Bu yaklaşımın en dikkat çekici tarafı doğal olarak maliyet.

Coworker.ai'nin paylaştığı verilere göre OM2, token tüketimini 9 kata kadar azaltabiliyor. Sistemin her sorguda aynı büyük veri parçalarını yeniden modele göndermemesi, yanıt hızına da doğrudan yansıyor. Şirket, yanıt sürelerinde %64'e varan iyileşme elde edildiğini belirtiyor.

Üstelik Coworker.ai yalnızca daha ucuz ve hızlı sonuçlardan bahsetmiyor. Şirketin yaptığı değerlendirmelerde kullanıcıların OM2 ile hazırlanan yanıtları %84,5 oranında tercih ettiği ifade ediliyor.

Sistemin arkasındaki fikir aslında oldukça anlaşılır: Yapay zekâya her soru sorduğunuzda şirketin bütün arşivini önüne yığmak yerine, önemli bilgileri önceden işleyip hazır tutmak.

Kısacası OM2, yapay zekâya bir anlamda "Bunu daha önce öğrendin, baştan başlamana gerek yok" diyor.

Her görev için en pahalı yapay zekâyı çalıştırmaya gerek yok

Token tüketimi maliyetin yalnızca bir tarafı. Bir diğer önemli konu ise hangi yapay zekâ modelinin kullanıldığı.

Bir müşterinin son siparişini bulmak ile şirketin önümüzdeki yıl uygulayacağı stratejiyi analiz etmek aynı seviyede muhakeme gücü gerektirmiyor. Buna rağmen kurumsal sistemlerde basit görevlerin bile pahalı ve güçlü modellere gönderilmesi mümkün.

Coworker.ai burada model yönlendirme sistemini devreye sokuyor.

Basit bilgi sorguları daha hızlı ve ekonomik modellere gönderilebiliyor. Karmaşık analiz veya yoğun muhakeme isteyen görevlerde ise daha gelişmiş modeller kullanılabiliyor. Böylece şirket her küçük işlem için en pahalı yapay zekâ modelini çalıştırmak zorunda kalmıyor.

OM2'nin önceden hazırlanmış kurumsal hafızası bu yönlendirme sistemiyle birleştiğinde şirket oldukça iddialı bir rakam veriyor: Toplam maliyet avantajı 51 kata kadar çıkabilir.

Burada küçük ama önemli bir nokta var. Bunlar Coworker.ai'nin kendi açıkladığı sonuçlar. Gerçek kullanımda elde edilecek tasarruf; şirketin veri miktarına, kullandığı modellere, sorguların karmaşıklığına ve mevcut altyapısına göre ciddi şekilde değişebilir.

ChatGPT,Claude,Gemini ve Perplexity ile çalışabiliyor

OM2'nin ilginç özelliklerinden biri de şirketleri tek bir yapay zekâ sağlayıcısına mahkûm etmemesi.

Sistem, Model Context Protocol (MCP) ve farklı entegrasyonlar sayesinde ChatGPT, Claude, Gemini ve Perplexity gibi popüler yapay zekâ hizmetleriyle kullanılabiliyor. Şirketlerin kendi geliştirdiği özel yapay zekâ ajanları da aynı kurumsal hafızadan yararlanabiliyor.

Bunun pratikte önemli bir avantajı var. Bir işletme bugün Claude kullanırken birkaç ay sonra ChatGPT'ye, Gemini'a veya başka bir modele geçmek isteyebilir. Böyle bir durumda kurumsal bilgi yapısını tamamen sıfırdan oluşturmak yerine OM2'de bulunan mevcut hafızayı kullanmaya devam edebilir.

Yani yapay zekâ modeli değişse bile şirketin hafızası yerinde kalabilir.

Peki şirketin gizli bilgilerini kimler görebilecek?

Kurumsal verilerin tamamını birbirine bağlayan bir yapay zekâ hafızası kulağa güçlü geliyor. Fakat beraberinde oldukça önemli bir soru getiriyor: Her çalışan bütün şirket bilgilerine ulaşabilecek mi?

Coworker.ai'ye göre hayır.

Yeni işe başlayan bir çalışanın doğru soruyu sorması sonucunda yönetimin gizli satın alma planlarını veya hassas finansal bilgileri görmesi elbette büyük bir güvenlik sorunu olurdu. OM2 bu nedenle erişim izinlerini doğrudan oluşturduğu bilgi yapısına dahil ediyor.

Başka bir ifadeyle sistem bir bilginin yalnızca ne olduğunu değil, onu kimin görmeye yetkili olduğunu da dikkate alıyor. Kullanıcılar ve yapay zekâ ajanları sadece erişim iznine sahip oldukları verilere ulaşabiliyor.

Coworker.ai ayrıca OM2'nin izole edilmiş, tek kiracılı bir altyapıda çalıştığını ve SOC 2, GDPR ve CASA Tier 2 standartlarını karşıladığını belirtiyor.

Belki de yapay zekânın daha büyük bir beyinden önce iyi bir hafızaya ihtiyacı var

Yapay zekâ sektöründeki büyük yarışlardan biri, modellerin tek seferde ne kadar fazla bilgiyi işleyebildiği üzerine kurulu. Bağlam pencereleri büyüyor ve modellere aynı anda çok daha fazla veri verilebiliyor.

Coworker.ai ise konuya başka bir açıdan yaklaşıyor: Yapay zekâya neden her seferinde daha fazla bilgi okutmak zorundayız?

Eğer şirket içindeki önemli bilgiler önceden işlenir, birbirleriyle ilişkilendirilir ve sürekli güncel tutulursa yapay zekânın aynı belgeleri tekrar tekrar incelemesine gerek kalmayabilir. Bu da daha az token, daha hızlı yanıt ve daha düşük maliyet anlamına geliyor.

Elbette OM2'nin gerçek şirket ortamlarında Coworker.ai'nin açıkladığı 9 kat token tasarrufu ve 51 kata varan maliyet avantajını ne kadar istikrarlı sağlayabileceğini zaman gösterecek.

Ancak sistemin arkasındaki fikir oldukça güçlü: Yapay zekâya her seferinde daha büyük bir beyin vermek yerine, belki de önce ona daha iyi bir hafıza vermek gerekiyor.