Yapay zekalar kötü amaçlı yazılımda kullanılabilir hale geliyor

Büyük dil modelleri (LLM), otomasyon ve araştırmada devrim yaratırken, aynı zamanda siber güvenlik için yeni bir tehdit unsuru haline geliyor. Netskope Threat Labs’in son araştırması, GPT-3.5-Turbo ve GPT-4 modellerinin kötü amaçlı kod üretmede kullanılabileceğini ortaya koydu. Saldırganlar artık zararlı yazılımları doğrudan ikili dosyalara gömmek yerine, dil modellerini dinamik ve polimorfik yükler oluşturmak için kullanabiliyor. Bu durum, geleneksel imza tabanlı güvenlik sistemlerinin etkinliğini ciddi şekilde azaltıyor. Araştırma, modelin kötü amaçlı kod üretme kapasitesinin teknik olarak mümkün olduğunu doğruluyor.

LLM ile dinamik kötü amaçlı kod üretimi

Araştırmada GPT-3.5-Turbo, role-based prompt injection kullanılmadan bile Python betikleri üreterek antivirüs ve EDR süreçlerini hedef alabiliyordu. GPT-4 ise başlangıçta bu isteklere direnç gösterdi, ancak basit bir rol temelli manipülasyonla güvenlik önlemleri aşılabiliyor. Bu, LLM’lerin tamamen özerk zararlı yazılım oluşturma potansiyelini gösteriyor. Saldırganlar, sadece minimum gömülü kod ile ikili dosyaları dağıtarak, LLM üzerinden gerçek zamanlı ve değişken zararlı komutlar oluşturabiliyor.

Kod güvenilirliği ve operasyonel sınırlamalar

Netskope araştırması, LLM’lerin zararlı kod üretse de operasyonel güvenilirliğinin hâlâ sınırlı olduğunu gösterdi. VMware ortamında GPT-4 sadece %50 başarı sağlarken, GPT-3.5-Turbo %60 performans gösterdi. AWS Workspace gibi bulut altyapılarında performans dramatik şekilde düştü ve modeller neredeyse başarısız oldu. Fiziksel makinelerde ise her iki model %90 başarı gösterdi. Bu sonuçlar, tamamen güvenilir ve otonom LLM tabanlı kötü amaçlı yazılım geliştirme yolunda halen ciddi engeller olduğunu ortaya koyuyor.

GPT-5 ve gelecekteki tehditler

GPT-5’in ön testleri ise daha güçlü bir tehdit sinyali veriyor. Yeni model, AWS VDI ortamlarında %90 başarı sağlayarak GPT-4’ün büyük ölçüde başarısız olduğu alanlarda etkili oldu. Ancak GPT-5’in gelişmiş güvenlik mekanizmaları, zararlı niyetleri doğrudan engelleyecek şekilde kodları fonksiyonel olarak değiştiriyor. Bu da araştırmacılar ve siber suçlular için hem bir zorluk hem de modelin potansiyel tehdit kapasitesini artırıyor.

Araştırmalar, LLM tabanlı özerk zararlı yazılım tehditlerinin gelecekte daha gerçekçi hale gelebileceğini gösteriyor. Güvenlik ekiplerinin, yalnızca mevcut saldırılara karşı değil, aynı zamanda dil modelleri tarafından oluşturulabilecek dinamik ve polimorfik tehditlere karşı önlemler geliştirmesi gerekiyor. Bu durum, siber güvenlik paradigmasını değiştirecek ve yeni nesil tespit yöntemleri ile savunma mekanizmalarının hızla güncellenmesini zorunlu kılıyor.