Massachusetts’teki çifte cinayet davasında ChatGPT kullanımı inceleniyor

ABD’nin Massachusetts eyaletinde 17 yaşındaki bir genç, annesi ile küçük erkek kardeşinin ölümüyle bağlantılı olarak cinayet ve ilgili suçlamalarla karşı karşıya kaldı. Boston’ın yaklaşık 48 kilometre kuzeybatısındaki Acton’da yaşayan Arjun Aravind’in, 45 yaşındaki annesi Sudha Venkatesan ve 14 yaşındaki kardeşi Siddharth’ın ölümleri nedeniyle yetişkin olarak yargılanacağı açıklandı. Genç, 13 Ağustos’ta mahkemeye çıkarıldı ve kendisi adına suçsuzluk beyanında bulunuldu. Mahkeme, şüphelinin 11 Eylül’de gerçekleştirilecek ön soruşturma duruşmasına kadar kefaletsiz olarak gözaltında tutulmasına karar verdi. Savcılık, olaydan önceki dönemde gencin internet ve ChatGPT kullanımında endişe verici davranışlar bulunduğunu öne sürüyor. Ancak dava henüz sonuçlanmadığı için suçlamaların mahkeme tarafından kanıtlanmış olmadığı özellikle önem taşıyor. Gencin ceza sorumluluğu, psikolojik durumu ve olayın ayrıntıları devam eden yargılama sürecinde değerlendirilecek.

Savcılık ChatGPT üzerinden oluşturulan kurgulara dikkat çekti

Savcı Marian Ryan, mahkemeye yaptığı açıklamada gencin ailesinin öldürülmesiyle ilgili teorik fikirler veya kurgusal hikâyeler aramak için internetten ve ChatGPT’den yararlandığını iddia etti. Sohbet robotuna ilişkin bilgi böylece polis veya dışarıdaki bir araştırma kuruluşundan değil, doğrudan savcılık makamından gelmiş oldu. Bununla birlikte savcılar, ChatGPT’nin gence cinayet işlemesi için talimat verdiğini ileri sürmedi. Görüşmelerde hangi soruların sorulduğu, sistemin nasıl yanıt verdiği ve konuşmaların ne kadar sürdüğü de kamuoyuyla paylaşılmadı. Bu nedenle ChatGPT’nin olay üzerindeki olası etkisi hakkında kesin bir değerlendirme yapmak şu aşamada mümkün değil. Söz konusu kullanım, savcılık tarafından şüphelinin olay öncesindeki düşünce ve davranışlarını anlamaya yardımcı olabilecek dijital delillerden biri olarak ele alınıyor. Mahkemenin bu kayıtların kabul edilebilirliğini, bağlamını ve suçlamalar açısından taşıdığı değeri ilerleyen duruşmalarda incelemesi bekleniyor.

Dijital yazışmalarda şiddet içeren kurgular bulunması, tek başına gerçek bir saldırı planlandığını veya sohbet robotunun suça neden olduğunu kanıtlamıyor. Kurgusal anlatılar, teorik sorular ve gerçek niyet arasındaki ayrım bu tür davalarda kritik önem taşıyor. Savcıların iddiasını destekleyebilmesi için konuşmaların bağlamını ve diğer delillerle nasıl ilişkilendirildiğini ortaya koyması gerekecek. Yazışmaların olaydan ne kadar önce gerçekleştirildiği veya belirli bir plan içerip içermediği bilinmiyor. ChatGPT’nin talepleri reddedip reddetmediği ya da güvenlik uyarısı gösterip göstermediği de açıklanmış değil. Bu belirsizlikler, yapay zekâ sisteminin davadaki rolünü şimdilik sınırlı ve tartışmalı hale getiriyor. Nihai değerlendirme, yalnızca savcılığın açıklamasına değil, mahkemeye sunulan eksiksiz dijital kayıtlar ile adli delillere dayanacak.

Savunma psikiyatrik değerlendirme istedi

Gencin avukatı Debra DeWitt, mahkemeden müvekkili için psikiyatrik değerlendirme yapılmasını talep etti. Avukat, gencin şokta olduğunu ve annesi ile kardeşinin öldüğünün farkında olmadığını söyledi. Ailenin kısa süre önce Acton’a taşındığı da mahkemeye sunulan bilgiler arasında yer aldı. Savunma, şüphelinin babasının öncelikle oğlu için yardım istediğini aktardı. Bu açıklamalar, gencin ruhsal durumunun hem soruşturma hem de yargılama sürecinde önemli bir konu haline geleceğini gösteriyor. Psikiyatrik inceleme, gencin mevcut durumunu, yargılamaya katılma yeterliliğini ve olay sırasında cezai sorumluluğunu etkileyebilecek bir rahatsızlığının bulunup bulunmadığını değerlendirebilir. Ancak değerlendirme tamamlanmadan şüphelinin psikolojik durumu hakkında kesin bir yargıya varılması mümkün değil.

Mahkeme belgelerine göre aile içerisinde daha önce bazı uyarı işaretleri fark edilmişti. Babanın oğlunun davranışları ve internet kullanımı konusunda endişelenmeye başladığı belirtiliyor. Bu endişeler üzerine evdeki mutfak bıçaklarını ulaşılması zor yerlere kaldırdığı aktarılıyor. Ancak bu önlemin hangi tarihte alındığı ve belirli bir tehdide dayanıp dayanmadığı kamuoyuna açıklanmadı. Evde fark edilen davranışların ChatGPT kullanımıyla doğrudan bağlantılı olup olmadığı da bilinmiyor. Savcılık bu ayrıntıları olay öncesindeki davranış örüntüsünün bir parçası olarak değerlendirebilir. Savunmanın ise gencin ruhsal durumunu ve ailesinin yardım arayışını davanın daha geniş bağlamı içinde ele alması bekleniyor.

Dava, yapay zekâ sistemlerinin sorumluluğunu yeniden gündeme getirdi

Massachusetts’teki dava, bir kullanıcının başkasına zarar verme konusunda sorular sorması halinde yapay zekâ sistemlerinin nasıl tepki vermesi gerektiği tartışmasını yeniden gündeme taşıdı. Büyük dil modelleri açık şiddet taleplerini reddedecek ve kriz işaretleri gördüğünde güvenli yanıtlar verecek şekilde eğitiliyor. Bununla birlikte aynı taleplerin kurgu, araştırma veya teorik bir senaryo biçiminde sunulması, kullanıcının gerçek amacının anlaşılmasını zorlaştırabiliyor. Bir korku hikâyesi yazmak isteyen kullanıcıyla gerçek bir saldırı planlayan kişiyi yalnızca metin üzerinden ayırmak her zaman kolay olmayabilir. Sistemlerin fazla sert davranması meşru yaratıcı veya akademik kullanımları engelleyebilir. Fazla uyumlu davranması ise risk altındaki bir kullanıcıya zararlı içerik verilmesi ihtimalini artırabilir. Bu denge, yapay zekâ şirketlerinin güvenlik politikalarında çözmeye çalıştığı en önemli sorunlardan birini oluşturuyor.

Yapay zekâ sohbet robotlarının şiddet, kendine zarar verme veya savunmasız kullanıcılarla bağlantılı olaylarda anılması, şirketler üzerindeki hukuki ve siyasi baskıyı artırıyor. ABD’de bazı eyalet yönetimleri, çocukların ve gençlerin yapay zekâ sistemleriyle kurduğu etkileşimler nedeniyle şirketlere karşı yasal girişimlerde bulundu. Florida’da OpenAI, Pennsylvania’da ise Character.AI çocuk güvenliği ve ürün tasarımıyla bağlantılı iddialarla karşı karşıya kaldı. Açılan davalarda temel tartışma, teknoloji şirketlerinin yalnızca modellerin doğrudan verdiği yanıtları değil, uzun süreli etkileşimlerin teşvik edebileceği davranışları da hesaba katması gerekip gerekmediği üzerinde yoğunlaşıyor. Avrupa’da da ChatGPT gibi geniş kullanıcı kitlesine sahip hizmetler, Dijital Hizmetler Yasası kapsamında daha sıkı yükümlülüklerle karşı karşıya bulunuyor. Düzenleyiciler özellikle küçük yaştaki kullanıcılar, ebeveyn denetimleri ve kriz işaretlerinin tespit edilmesine odaklanıyor. Massachusetts davası da yapay zekâ sistemlerinin riskli konuşmaları nasıl algılaması gerektiğine ilişkin tartışmaları daha da yoğunlaştırabilir.

OpenAI güvenlik önlemlerini güçlendirdiğini belirtiyor

OpenAI, Massachusetts’teki dava hakkında açıklama yapmadı. Şirket daha önce özellikle ergenler ve zor durumda bulunan kullanıcılar için güvenlik sistemlerini geliştirdiğini belirtmişti. Bu çalışmalar arasında ebeveyn denetimleri ve kriz durumlarını ifade eden dilin daha iyi algılanması bulunuyor. Sistemlerin kendine zarar verme veya başkalarına zarar verme riski taşıyan açık talepleri reddetmesi ve kullanıcıyı güvenli kaynaklara yönlendirmesi amaçlanıyor. Ancak şiddet içeren bir talebin kurgu veya teori şeklinde sunulması, otomatik tespit sistemleri için daha karmaşık bir durum oluşturuyor. Güvenlik mekanizmalarının Massachusetts davasında sözü edilen konuşmaları yakalayıp yakalamadığı, sohbet kayıtları açıklanmadığı için bilinmiyor. Dava, bu tür korumaların sınırlarının ve yapay zekâ şirketlerinin hangi durumlarda müdahale etmesi gerektiğinin yeniden değerlendirilmesine yol açabilir.

Acton’da tam olarak ne yaşandığına ve teknolojinin olayda herhangi bir etkisinin bulunup bulunmadığına mahkeme karar verecek. Şüpheli hakkındaki suçlamaları kabul etmedi ve davadaki en ciddi iddialar henüz yargı kararıyla kanıtlanmadı. ChatGPT kullanımının delil olarak anılması, yapay zekâ sisteminin doğrudan suça neden olduğu anlamına gelmiyor. Savcılık tarafının yazışmaların içeriğini diğer dijital ve fiziksel delillerle ilişkilendirmesi gerekecek. Savunma ise psikiyatrik değerlendirme ve gencin ruhsal durumuyla ilgili bilgileri mahkemeye sunacak. Bu nedenle teknoloji şirketlerinin sorumluluğuna ilişkin daha geniş tartışmalarla ceza davasındaki bireysel sorumluluk değerlendirmesinin birbirinden ayrılması önem taşıyor. ChatGPT’nin davadaki gerçek yeri ancak konuşma kayıtları ve diğer deliller ayrıntılı biçimde incelendiğinde anlaşılabilecek.