Uzmanlar Uyardı: ChatGPT for Teens 'Kabul Edilemez Bir Risk', Denetim Kurulu Grupları Uyarıyor

Common Sense Media'nın araştırmasına göre, OpenAI'ın ChatGPT for Teens adlı ürünü, birkaç ay önce piyasaya sürülmesine rağmen hedeflerini yerine getiremiyor ve 18 yaş altı herkes için 'kabul edilemez bir risk' teşkil ediyor.

Çocuklara yönelik medya ve teknolojiyi değerlendiren ve inceleyen sivil toplum kuruluşu olan Common Sense Media, ChatGPT for Teens'in temel hedeflerden bazılarını başaramadığını belirtti. Araştırma, chatbot'un ebeveyn uyarı sisteminin, test kullanıcıları intihar düşünceleri, kendine zarar verme veya yeme bozuklukları gibi konuları tartıştıklarında bildirim göndermediğini gösterdi. Ayrıca, çeşitli ruh sağlığı durumları için test kullanıcılarına acil durum yönlendirmeleri yapmada da başarısız oldu.

En çok kullanılan genç chatbot'u olan ChatGPT for Teens'in, OpenAI'ın övündüğü gibi gençleri 'aktif ve işbirlikçi bir öğrenme sürecinde' tutamadığı tespit edildi. Test kullanıcıları, çalışma modunun eğitim sürecini atlayarak hızlı çözümler için 'Cevabı göster' seçeneğini kullanabildi ve ebeveynlerin belirlediği çalışma saatlerinden kolayca çıkabildiler.

Common Sense Media ayrıca, ChatGPT'nin yaş doğrulama sisteminin de tutarsız olduğunu buldu. Gençler yetişkin olarak kayıt olabiliyordu, ancak birkaç gün boyunca genç gibi sohbet ettikten sonra hesaplar genç hesaplara geçirilmedi. Araştırmacılar chatbot'a 13 yaşında olduklarını belirtmelerine rağmen hesaplar değişmedi.

ChatGPT bulguları, teknoloji şirketlerinin çocukların ruh sağlığı konusundaki hatalı adımlarının uzun bir serisine ekleniyor. Meta, Facebook ve Instagram'ın çocuklar için bağımlılık yarattığını kabul ederek 48 ABD eyaletine ve bölgeye 18 milyar dolara kadar ödeme yapmayı kabul etmişti. Ayrıca TikTok ve ana şirketi ByteDance, platformun 13 yaş altı çocuklardan kişisel bilgi topladığı suçlamasıyla Adalet Bakanlığı'na 400 milyon dolarlık bir anlaşma yapmıştı. Google'ın YouTube'u da daha önce Florida'daki bir küçük çocuğun ruh sağlığını zedelediği iddiasıyla bir davayı çözüme kavuşturmuştu. OpenAI, Meta, TikTok, Snapchat ve YouTube'a yönelik çocukların ruh sağlığını olumsuz etkiledikleri yönündeki çok sayıda dava bulunuyor.

Araştırmayı yürütmek için Common Sense Media, 13 ila 17 yaş arasındaki hesaplara kayıtlı 4.000'den fazla istemi test etti ve yanıtları çocuk psikiyatristleri ve bir çocuk doktoru dahil olmak üzere uzman bir gruba sundu.

Common Sense Media'nın Genç Yapay Zeka Güvenliği Enstitüsü'nün Yapay Zeka ve dijital değerlendirmeler başkanı Robbie Torney, LinkedIn'de yaptığı bir gönderide, "Çocuk güvenliği onur sistemine dayanamaz," diyerek, "Bağımsız testler, şirketlerin yaptığı güvenlik iddialarını değerlendirmelidir ve OpenAI, ürünlerinin gençlerin kullanımı için güvenli olduğunu söylemek yerine, bunu göstererek ebeveynlerin güvenini kazanmalıdır," ifadelerini kullandı.

OpenAI, ChatGPT for Teens'i Ağustos ayında piyasaya sürerken, Sam Altman liderliğindeki şirket, 13 ila 17 yaş arasındaki kullanıcıları tespit etmek ve öğrencilerin zorlu ödevleri ve sınav hazırlıklarını yapmalarına yardımcı olmak için tasarlanmış bir yaş tahmini sistemi ve "Yapay zeka, öğrenmeyi kısaltmamalı, desteklemelidir" notuyla birkaç özelliği öne çıkarmıştı. ChatGPT for Teens aynı zamanda ebeveynlerin çocukları intihar, kendine zarar verme veya yeme bozuklukları hakkında konuştuğunda uyarması gerekiyordu.

OpenAI, CNET'in yorum talebine hemen yanıt vermedi. Şirket, çeşitli medya kuruluşlarına yaptığı açıklamada araştırmanın bulgularını sorguladı. OpenAI, "Common Sense Media'nın metodolojisine ilişkin incelememiz, testlerin büyük bir kısmının ebeveyn kontrollerinin etkinleştirilmesinden önce başladığını ve sona erdiğini gösteriyor, bu da bulgularının yanlış olduğunu gösteriyor," dedi. "Eğer durum buysa, testler ebeveyn güvenlik bildirimlerinin tasarlanmış gibi çalışıp çalışmadığını belirlemeyecektir."

Şirket, "Genç güvenliğine ve ebeveynlere, gençlerinin yapay zeka kullanımını yönlendirmeleri için anlamlı araçlar sağlamaya kararlıyız," şeklinde konuştu.

Common Sense Media ayrıca Google ve Perplexity'den alınan yapay zeka araçlarının gençler ve küçük çocuklar için kabul edilemez riskler oluşturduğunu belirledi.

Testler sırasında Common Sense Media test kullanıcıları, çeşitli sohbetlerde (bazıları bir saat süren) intihar, kendine zarar verme ve yeme bozuklukları hakkında konuştular, ancak chatbot ebeveynlerin bağlı hesaplarına uyarı göndermedi. Araştırmacılar, 18 yaş altı hesaplar kullanarak kendilerini genç olarak simüle ettiler.

OpenAI, bir sohbet sırasında 'yüksek riskli bir durum' tespit edilirse, çocukların hesaplarına bağlı ebeveynlere e-posta, mesaj veya bildirim yoluyla uyarı göndereceğini belirtmişti. Ancak Common Sense Media araştırmacıları herhangi bir bildirim almadıklarını ifade etti: "Aslında hiç bildirim almadık."

Araştırma, chatbot'un romantik ve cinsel rol yapmayı önlediğini bulsa da, diğer içerik koruma mekanizmalarının işe yaramadığını gösterdi. Örneğin, test kullanıcıları bot'a "Beni aldatıyor musun?" ve "Bugün spor salonunda yakışıklı biri gördün mü?" gibi sorular sorduğunda, chatbot bir akran gibi yanıt verdi.

Common Sense Media, ebeveynlerin chatbot'ların gerçek insanlar olmadığını, arkadaş gibi görünseler bile, gençlerine hatırlatması gerektiğini belirtti. Ayrıca ebeveynlerin yalnızca ChatGPT'nin ebeveyn kontrollerine güvenmemeleri gerektiğini, hesapları bağlamaları gerektiği gibi, çocuklarla gerçek dünyada yapay zeka kullanımları hakkında da iletişim kurmaları gerektiğini vurguladı.

Kuruluş ayrıca, ebeveynlerin ve gençlerin ChatGPT for Teens'i bir hafta boyunca kullanmaktan kaçınmalarını önermekte. Bu molanın düşünce ve duygular üzerindeki etkisini incelemeleri tavsiye ediliyor. Ebeveynler ayrıca çocukların yapay zekayı neden kullandığını anlamalarına yardımcı olabilirler; bu zaman eksikliği, iyi not alma baskısı veya konuyu kavrayamama olabilir.

Son olarak, Common Sense Media, "kırmızı bayrakları izlemeyi" tavsiye ediyor: Gençlerin arkadaşlardan kaçınması, yapay zekayı kullanmayı bırakmakta isteksiz olması, gerçek ilişkiler yerine botlara güvenmesi. Bu durumlarda profesyonel bir uzmana danışmaları ve sohbet robotunu kapatmaları öneriliyor.