Açık Ağırlıklı Yapay Zeka Modelleri Nedir?

Bir sohbet botunu kullanırken, arkasındaki modeli kimin kontrol ettiğini muhtemelen hiç düşünmezsiniz. Ta ki bir güncelleme botun yanıt verme şeklini değiştirene ya da bilgisayarınızda tutmayı tercih edeceğiniz özel bir konuda yardım almak isteyene kadar.

Açık ağırlıklı bir model, önceden eğitilmiş yapay zekayı indirip kendi başınıza çalıştırmanızı sağlar. Bunun için uygun bir yazılıma ve modeli kaldırabilecek bir bilgisayara ihtiyacınız olacak, ancak karşılığında çalışan bir kopyaya sahip olursunuz. Sohbet botları en çok dikkati çekse de, görüntü ve video üreteçlerinin de açık ağırlıklı seçenekleri bulunabiliyor.

Ancak bir yapay zeka modelini indirmek, size sınırsız izin vermez veya modelin yapımında kullanılan her şeyi açığa çıkarmaz. Yapay zekayı nasıl kullanacağınız konusunda daha fazla özerklik kazanırsınız, fakat 'açık' kelimesi hâlâ birçok şeyi belirsiz bırakır. İşte açık ağırlıklı modellerin ne olduğu, onlarla neler yapabileceğiniz ve bir tanesini denemeden önce göz önünde bulundurmanız gerekenler.

Bir sohbet botunda, yapay zeka modeli yanıtları üreten yazılımdır. Eğitim sırasında model, sinir ağı ağırlıkları adı verilen milyarlarca sayısal değeri ayarlayarak örüntüleri öğrenir. Siz bir soru sorduğunuzda, model sizin komutunuzu ve bu öğrenilmiş örüntüleri kullanarak bir sonraki metnin ne olması gerektiğini tahmin eder ve cevabını parça parça oluşturur.

ChatGPT ve Claude gibi kapalı modellerin geliştiricileri, ağırlıklarını gizli tutar. Açık ağırlıklı bir model ise eğitilmiş ağırlıklarını kamuya açar. Bu, onları indirip uyumlu bir yazılım kullanarak kendi kopyanızı çalıştırabileceğiniz anlamına gelir.

Yapay zeka şirketi Mistral'ın bilimden sorumlu başkan yardımcısı Pierre Stock, "Bir modeli açık ağırlıklı hale getirdiğinizde, tüm ağırlıklar internette, örneğin Hugging Face ve diğer sunucularda her yere yayılır," diyor. "Dolayısıyla bu modele erişimi kesmek neredeyse imkansızdır."

Ücretsiz bir model ve uygulama ile, abonelik veya kullanım ücreti ödemeden yerel olarak sohbet edebilirsiniz. Daha da önemlisi, tamamen yerel bir kurulum, komutlarınızı ve dosyalarınızı bir yapay zeka sağlayıcısının sunucularından uzak tutar.

Teknik bilginiz yoksa endişelenmeyin, çünkü bunu yapmak için kod yazmanız veya bir terminal açmanız gerekmeyecek. LM Studio, Ollama ve Jan gibi masaüstü uygulamaları, basit bir kurulumla açık ağırlıklı modelleri indirip çalıştırmanıza olanak tanıyarak, doğrudan Mac veya PC'nizde ChatGPT benzeri bir arayüz sunar. Yine de seçtiğiniz modeli kaldırabilecek bir bilgisayara ihtiyacınız olacak. Her şey kurulduktan sonra, çevrimdışı olarak sohbet etmeye devam edebilirsiniz.

Nasıl yapılacağını biliyorsanız, lisansının izin verdiği ölçüde, modeli daha fazla eğitimle uyarlayabilirsiniz. Tamamen yeni bir modeli sıfırdan eğitmek zorunda değilsiniz.

İnsanlar genellikle bu terimleri birbirinin yerine kullanır, ancak tam olarak aynı anlama gelmezler. Açık ağırlıklı bir model aynı zamanda açık kaynaklı olabilir, ancak yalnızca ağırlıkları yayınlamak, Açık Kaynak Girişimi'nin (OSI) tanımına uymaz.

Geliştiricilerin, modeli eğitmek ve çalıştırmak için kullanılan kodu paylaşması gerekir. Ayrıca, yetenekli bir kişinin büyük ölçüde aynı şekilde çalışan bir model oluşturabilmesi için eğitim verileri hakkında yeterli bilgi sağlamaları gerekir. Koşullar, insanların onu kullanmasına, incelemesine, değiştirmesine ve paylaşmasına izin vermelidir.

OSI tanımına göre, geliştiricilerin bir modeli eğitmek için kullandıkları verileri paylaşmaları gerekmez. Özgür Yazılım Vakfı, kullanıcıların verileri kendilerinin kullanıp değiştirmekte özgür olmasıyla birlikte, bunun anlaşmanın bir parçası olması gerektiğini söylüyor.

Bazı açık ağırlık lisansları ticari kullanımı sınırlar; bu, bir modelin indirilmesi ücretsiz olabileceği ancak satmak istediğiniz bir uygulama için kullanılamayacağı anlamına gelir. Bu tür bir kısıtlama, onu OSI tanımına göre diskalifiye eder. Açık kaynaklı bir lisans, değiştirdiğiniz bir sürümü paylaştığınızda aynı koşulları korumanızı gerektirebilir.

Bağımsız yapay zeka test şirketi Artificial Analysis'in açık ağırlıklı modeller için zeka sıralamasında şu anda Çin modelleri başı çekiyor. DeepSeek'i zaten duymuş olabilirsiniz, ancak indirilebilir ağırlıklar sunan Moonshot AI'ın Kimi K3'ü ve Alibaba'nın Qwen3.8 ailesi de bulunuyor.

Bazı ABD alternatifleri, tanıdık sohbet botlarının arkasındaki şirketlerden geliyor. OpenAI, ChatGPT'den ayrı olarak gpt-oss modelleri sunarken, Google'ın Gemma modelleri var. Meta, Llama modellerinin yanı sıra Muse Glimmer'a sahip ve Muse Spark Open'ı ekledi; Nvidia'nın ise Nemotron'u bulunuyor.

Sohbet botu devlerine bağlı kalmak zorunda da değilsiniz. ABD merkezli bir girişim olan Reflection, ağırlıkları artık indirilebilir olan Beam'i piyasaya sürdü. Bir başka ABD'li girişim olan Thinking Machines Lab ise Inkling modelini sunuyor.

Avrupa'nın Fransa'dan Mistral AI adında bir adayı var. İndirilebilir modelleri arasında Mistral Large 3 ve daha küçük Ministral 3 ailesi yer alıyor. 'Le Chonk' lakaplı daha yeni Mistral Large 4 ise şu anda indirilebilir ağırlıklarıyla kullanıma sunulmuş durumda.

Burada bahsedilen her model bir dizüstü bilgisayarda çalışmayacaktır. Bazı daha büyük modeller sunucu donanımına ihtiyaç duyarken, daha küçük sürümler kişisel bilgisayarlarda ve hatta telefonlar gibi daha küçük cihazlarda çalışabilir.

Açık ağırlıklı bir model, dizüstü bilgisayarınızda çevrimdışı çalışırken bile hâlâ halüsinasyon görebilir. Ayrıca eğitiminden kaynaklanan önyargılar da taşıyabilir. Geliştiriciler, eğitim verilerini gizli tutarken ağırlıkları yayınlayabilir ve bu da dışarıdakilerin modele neyin dahil edildiğini tam olarak kontrol edememesine neden olur.

Performans modele ve göreve göre değişir, bu nedenle açıklık tek başına size kapalı bir alternatifi geçip geçmeyeceğini söylemez.

Bir modeli değiştirme özgürlüğü, insanların onun güvenlik önlemlerini zayıflatabileceği veya kaldırabileceği anlamına da gelir.

Stock, "Bir modeli açık ağırlıklı hale getirmek için güvenlik önlemleri gereklidir," diyor. İnsanların bir modeli indirdikten sonra bu korumaları kaldırabilmesi durumunda onları nasıl güvende tutacağını sorduğumda Stock, "Çok fazla çalışmayla, güvenlik önlemlerinin kısmen üstesinden gelinebilir," diyerek bunun için gereken çabayı, bir modeli kendi başınıza ince ayar yapmaya benzetiyor.

İnsanlar kopyaları indirdikten sonra, orijinal geliştiricinin bundan sonra olacaklar üzerinde sınırlı bir kontrolü olur. Bir şirket, çevrimiçi hizmetini kötüye kullanan birinin erişimini kesebilir, ancak daha güvenli bir yedek model yayınlamak herkesin indirdiği kopyayı güncellemeyecektir.

Yine de aynı indirmeler, bağımsız araştırmacıların modelleri daha yakından incelemesine ve hataları belirlemesine olanak tanır. Araştırmacılar, bir şikayeti araştırması için geliştiriciye bağlı kalmak yerine, değişiklikleri kendileri test edebilir.

Microsoft ve diğer şirketler, Çin modellerine yönelik olası ABD kısıtlamalarına dair haberlerin ardından açık ağırlıkları savunan bir açık mektupta bu faydaya atıfta bulundu. Bu araçları erişilebilir tutmanın, güvenlik ekiplerinin yapay zeka kullanan saldırganlara karşı savunma yapmasına yardımcı olduğunu savundular.

Stock, "Bir modeli açık ağırlıklı hale getirdiğinizde, esasen tüm ekosistemin birlikte ilerlemesini sağlarsınız," diyor.

Açık ağırlıklı modeller, tıpkı bulut modelleri gibi e-posta taslakları hazırlayabilir, belgeleri özetleyebilir, yerel dosyaları analiz edebilir ve kodlamaya yardımcı olabilir. Ancak, bir tanesini yerel olarak çalıştırdığınızda, hızı ve uzun belgeleri işleme yeteneği hem modele hem de bilgisayarınızın belleğine ve işlem gücüne bağlıdır.

Daha büyük modeller genellikle bol miktarda belleğe veya güçlü bir GPU'ya sahip bilgisayarlarda, örneğin 16 GB veya 36 GB RAM'e sahip bir Mac'te daha sorunsuz çalışır; ancak daha küçük modeller 8 GB'lık bir Mac'te çalışabilir.

Gerekli donanıma zaten sahipseniz, açık ağırlıklı bir model kurmayı düşünmeye değer. Ancak bunları çalıştırmak için yeni bir bilgisayar satın almanız gerekiyorsa, bu maliyeti bir bulut modeli için aylık 20 dolarlık bir abonelikle karşılaştırın.

Bazı açık ağırlıklı modelleri, DeepSeek ve Kimi gibi, geliştiricilerin sizin için çalıştıran kendi web siteleri aracılığıyla da kullanabilirsiniz. Bu, modeli indirip kendiniz çalıştırmaktan daha az zahmetlidir, ancak komutlarınız sağlayıcıya gider.

Arada sırada bir e-posta yazmak için yardım istiyor ve çevrimiçi bir hizmet kullanmaktan rahatsız olmuyorsanız, barındırılan bir sohbet botu sizin için oldukça uygun olabilir. ChatGPT, Gemini ve Claude'un hepsinin ücretsiz planları vardır, bu nedenle bir abonelikten kaçınmak, otomatik olarak kendi yapay zekanızı çalıştırmanızı gerektirmez.

Açık ağırlıklar, hassas belgeleri cihazınızda tutmanın yanı sıra, daha fazla kontrolü kendi elinize alma seçeneği sunar. İnternete erişiminiz olmadığında çalışmaya devam eden bir asistan kulağa harika geliyor. Geliştiricisi çevrimiçi olanı kullanımdan kaldırdıktan sonra bile beğendiğiniz bir modeli saklayabilmek de öyle.

Stock, "Birinin modelinize erişimi kesebildiği bir dünyada yaşamak istemezsiniz," diyor.

Açık ağırlıklı modellerin daha küçük cihazlara yüklenmesiyle gelecek de umut verici görünüyor. Google'ın Gemma modelleri, telefonlar ve dizüstü bilgisayarlar için daha küçük sürümler içeriyor. Mistral da, belirli kullanım alanları ve cihazlar için tasarlanmış özel modeller de dahil olmak üzere benzer bir model yelpazesine sahip.

Stock, "Örneğin, ses konusunda uzmanlaşmış modellerimiz de var," diyor, "ve bunlar tam anlamıyla akıllı saate sığabiliyor."