Microsoft, Yapay Zeka Ajanlarını Kontrol Altında Tutma Çabası: MXC ile 'Kapatma Anahtarı' Sunuluyor

Yapay zeka (YZ) endüstrisiyle ilgili son zamanlarda okuduğunuz haberlerin çoğu muhtemelen şunlardan biriydi: Büyük bir laboratuvardan çıkan bir YZ ajanı veya botun test ortamından kaçarak internete sızması ve gerçek web sitelerini hacklemesi. Bu durum, Meta, OpenAI ve Anthropic gibi birçok büyük YZ şirketinde yaşandı; hacklenen siteler arasında Hugging Face YZ platformu ve ABD ile Avustralya hükümetlerinin işlettiği siteler de bulunuyordu.

Bu tür ajan kaynaklı siber güvenlik ihlallerini önlemeye yardımcı olmak için Microsoft, YZ ajanlarını kontrol altına almak amacıyla yeni kurumsal yazılımlara odaklanıyor.

Bu çözümlere Microsoft Execution Containers (MXC) adı veriliyor ve Windows üzerindeki geliştiricilerin sanal ortamlarında (sandbox) bulunuyor. MXC'nin iki temel amacı vardır: YZ ajanlarını tespit etmek ve ardından onları sınırlamaktır. Mevcut çalışmanızın üzerine uygulanan bu 'konteynerler' aracılığıyla, YZ ajanınızın hangi dosyalara ve ağ bölgelerine erişebileceğini sınırlandırmanıza yardımcı olur.

CEO Satya Nadella, MXC'nin şirketin Surface Laptop Ultra etkinliği sırasında genel kullanıma sunulduğunu Salı günü belirtti. Fikir, YZ ajanınızın yalnızca dizüstü bilgisayarınızdaki belirli dosyalara ve tanımlamalara erişebilmesi durumunda daha az sorun çıkaracağı ve daha az hasar vereceği yönünde.

Windows geliştiricileri, YZ ajanlarına izin vermek için üç farklı erişim seviyesinden seçim yapabilirler. Önerilen seviye, ajanın internete erişimine (birçok ajan görevi için elzemdir) ve ayrıca indirmeler, belgeler ve masaüstü gibi PC'nizin belirli alanlarına sınırlı erişime izin verir.

En kısıtlayıcı mod ise 'Locked Down' (Kilitli) moddur ve bu, erişim için bir tür kapatma anahtarı görevi görebilir. Ajanın internete ve dosyalara erişimini kısıtlar. Tam tersi olan 'Unprotected' (Korunmasız) mod ise YZ'ye dijital ekosistemine en fazla erişimi verir. İhtiyaçlara göre bu modlar arasında geçiş yapabilir ve erişimi özelleştirebilirsiniz.

Ayrıca, ajanın ne yaptığını ve sizin ile YZ ajanı arasındaki CPU, bellek, disk ve ağ kullanımını izleyebilirsiniz. Aşağıdaki örnekte, en üstteki kullanıcı Windows'a giriş yapmış olan insandır. Orada, YZ ajanı olan R2-W9 (20)'nin OpenClaw ve bir Nvidia konteynerine erişirken çalıştığını görebilirsiniz.

MXC gibi güvenlik kontrolleri, özellikle Meta Muse ve OpenAI’ın dots gibi kişisel YZ ajanları popülerleştiği için YZ laboratuvarları için zorunlu olmaya devam edecek ve devam edecektir. Bu yazda gördüğümüz yasa dışı ajan saldırıları web sitelerini hedef aldı, ancak bu ajanlar daha yaygınlaştıkça ve sistemlerimize daha fazla yerleştiğinde sonuçlarının gerçek dünyaya kolayca sızabileceği varsayılabilir.

Özellikle kurumsal müşterilere YZ'yi agresif bir şekilde pazarlamaya odaklanan Microsoft için, YZ'sinin işlerine zarar vermeyeceğini bir şirkete garanti edebilmesi gerekir. CEO Satya Nadella haklı olarak, Microsoft gibi teknoloji şirketlerinin, YZ ajan araçlarını kullanmaları için insanların güvenini kazanmaları gerektiğini söyledi.

Nadella Salı günü yaptığı açıklamada, "İlk yaptığımız karar, benim adına ajana hangi yetkiyi verdiğimdir? Bu karar, güvene dayanacak ve YZ ne kadar otonom hale gelirse o kadar artacaktır," dedi.

Ancak hiçbir YZ güvenlik programı tamamen hatasız değildir. Bunun bir parçası da yeni teknolojinin doğasıdır. YZ endüstrisinin YZ'yi güvenli hale getirmek için yeterince çaba gösterip göstermediği konusundaki tartışmalar son zamanlarda doruk noktasına ulaştı. YZ uzmanları ve genel kamuoyu, YZ laboratuvarlarının hızlı büyüme ve sınırları zorlama arzusunun hepimiz için felakete yol açabileceği konusunda haklı olarak endişelidir.

En azından YZ liderleri, güvenliğin YZ için anahtar olduğunu anlıyorlar. Ya da bunu satış sunumlarının en üst düzeyine dahil ediyorlar.

Nvidia CEO'su Jensen Huang, etkinlikte, "Bu güvenle ilgili. Bu, kapsama ile ilgili. Bu, izlemeyle ilgili. Bunu doğru yapamazsak, bu ilk adımdır," şeklinde konuştu.