Seçim Kararlarınızı Yapay Zeka Sohbet Robotlarına Bırakmamanız İçin Nedenler

ABD ara seçimleri 3 Kasım'da yapılacak ve bazı eyaletlerde erken oylama çoktan başladı. Oy pusulasında yapay zeka politikaları da dahil olmak üzere birçok teknoloji konusu bulunurken, insanların Seçim Günü'ne hazırlanmak için üretken yapay zeka sohbet robotlarına başvurduğu bildiriliyor.

Sohbet robotlarının en büyük kullanım alanlarından biri bilgi aramak; bu nedenle insanların adaylar ve oy pusulasındaki konular hakkında bilgi edinmek için ChatGPT, Claude veya başka bir yapay zeka aracını kullanması şaşırtıcı değil. Ancak üretken yapay zeka teknolojisinin önyargı, dalkavukluk, halüsinasyon ve kötü bilgiler kullanarak yanlış sonuçlar çıkarma gibi ciddi riskleri olduğunu biliyoruz.

Eğer seçim araştırmanız için sohbet robotlarını kullanacaksanız, bazı önlemleri almanız şart. Ayrıca siyasi dolandırıcılıkları ve deepfake'leri tespit etme rehberine de göz atabilirsiniz.

Bu, bir sohbet robotuyla yaptığınız herhangi bir konuşma için iyi bir tavsiye olsa da özellikle seçim araştırması için çok daha önemli: Yapay zekanın size doğruyu söylediğini doğrulayın.

Sohbet robotları, 2022'de ilk ChatGPT'nin piyasaya sürülmesinden bu yana uzun bir yol kat etti, ancak hâlâ hata yapıyorlar. Web'den (veya web bağlantısı yoksa veri tabanından) bilgi çekip sentezleyerek çalışıyorlar. Ancak bu süreçte, gerçekler yapay zeka kıyma makinesinde birbirine karışabiliyor.

Büyük sohbet robotları, sizi bağlı tutmak için sonuçları kişiselleştirmeye çalıştığından, sizi yanıltabilirler. Yapay zekanın aşırı insan memnun etme eğilimine dalkavukluk deniyor ve bu, size yanlış bilgi vermesine yol açabiliyor.

Sohbet robotları ayrıca halüsinasyon görebilir, yani bilgi uydurabilir. Bu, internette büyük bir ayak izi olan ve kolayca kontrol edebileceğiniz ulusal seçim kampanyaları için daha az endişe verici. Ancak oy kullanma yerlerini veya oy pusulanızın nasıl görüneceğini arıyorsanız, bu bilgiyi bulmak için eyaletinizin veya yerel yönetiminizin seçim web sitesine gitmeniz daha doğru olur. Eyaletinizin seçim kurulu iletişim bilgilerini burada bulabilirsiniz. Bu resmi hükümet kanalları aynı zamanda en güncel bilgiye sahip olacaktır.

Bir sohbet robotunun kaynaklarını da kontrol etmelisiniz. Örneğin, bir adayın veri merkezleri konusundaki tutumunu sorduğunuzda, sohbet robotunun adayın konuştuğu bir video klibi mi, bir haber röportajını mı yoksa sosyal medyada rastgele bir gönderiyi mi kaynak gösterdiğine bakın.

Bu, özellikle sosyal medya alıntıları için önemlidir. Biz insanlar Reddit'teki bir alaycılığı anlayabilir veya sahte bir X hesabını tespit edebilirken, sohbet robotları nüans ve ton konusunda zorlanır. 2024'te Google'ın Yapay Zeka Özetleri'nin insanlara peynirin yapışması için pizzaya yapıştırıcı sürmelerini söylediğini hatırlayın. Bu, Reddit'teki şaka amaçlı bir gönderiye dayanıyordu ve o zamanlar yapay zeka şakayı anlayamamıştı.

Siyasi yanlış bilgi yapay zekadan önce de kesinlikle vardı, ancak birçok dijital hastalık gibi, yapay zeka da cevap arayan insanlara kendinden emin bir şekilde gerçekmiş gibi sunarak sorunu daha da kötüleştirebilir.

New York Üniversitesi siyaset profesörü Jonathan Nagler, "Yapay zeka, yanlış bilgi üretmeyi kolaylaştırıyor" diyor.

Nagler, yanlış bilgi çoğu insanın medya tüketiminin çoğunluğunu oluşturmasa bile, kötü niyetli aktörlerin dezenformasyon kampanyalarını hızlandırmak ve daha geniş bir çevrimiçi kitle için tercüme etmek amacıyla silah olarak kullanılabileceğini söylüyor. "Yapay zekanın bunu etkilemesinden endişe duymamak aptallık olur."

Silah olarak kullanılan yalnızca teknoloji değil; aynı zamanda yanlış bilgiyi tespit etme yeteneğimizi de etkiliyor. MIT Media Lab tarafından yapılan yeni bir araştırma, GPS'in navigasyon becerilerimizi zayıflatabildiği gibi, gerçekleri doğrulamak için yapay zeka sistemlerini kullanmanın da insanların yanlış bilgiyi kendi başlarına tespit etme konusunda daha kötü hale gelmesine yol açtığını ortaya koydu.

Demokrasi ve Teknoloji Merkezi politika ve seçim analisti Isabel Linzer, yapay zeka tarafından üretilen yanlış bilginin "seçmenlerin siyasi görüşlerini etkileyebileceğini, bu nedenle risklerin gerçek olduğunu" söylüyor.

Science dergisinde yayınlanan bir çalışma, yapay zeka sistemleri ikna edici olacak şekilde optimize edildiğinde, yapay zekanın giderek daha fazla yanlış bilgi sağladığı "rahatsız edici bir takas" olduğunu ortaya koydu.

Seçim araştırması için yapay zeka kullanırken dikkate alınması gereken bir diğer önemli husus da önyargıdır. OpenAI gibi bazı yapay zeka şirketleri "siyasi olarak tarafsız" yanıtlara sahip olduklarını söylüyor. Ancak sohbet robotları tarafsız platformlar değildir; insanlar tarafından yapılan hiçbir teknoloji değildir. Sohbet robotlarını çalıştıran yapay zeka modelleri insanlar tarafından kodlanır ve bu nedenle insan önyargılarıyla kodlanırlar ve zararlı stereotipleri daha da ileri götürebilirler.

Linzer, "Kişiselleştirilmiş bir sohbette bir aday veya siyasi konu hakkında mükemmel siyasi tarafsızlığın neye benzeyeceğini hayal etmek bile zor, bu nedenle tarafsızlık takdire şayan bir hedef olsa da, pratikte ne anlama geldiği konusunda şüpheciyim" diyor.

Yapay zeka yanıtlarında neyin görüneceğini etkilemek için birçok dış çaba da var. Pazarlama ve arama motoru optimizasyonu ekipleri artık şirketlerinin, çoğu aramanın en üstünde görünen Google'ın Yapay Zeka Özetleri gibi yapay zeka sonuçlarında alıntılanmasını sağlamaya çalışıyor.

Siyasi aktörler de aynısını yapıyor; yapay zeka yanıtlarında olumlu şekilde alıntılanmak için bir aday hakkında kasıtlı olarak pohpohlayıcı veya bir diğeri hakkında yanıltıcı içerikler üretiyorlar. Linzer, buna bazen arama sonuçlarını "zehirlemek" dendiğini söylüyor.

"Bazen siyasi kampanyalar adaylarını yükseltmek için bu teknikleri kullanır, tıpkı Amerikalı seçmenleri yanıltmaya çalışan yabancı devlet aktörleri gibi" diyor.

Bu yapay zeka şirketlerini yöneten kişiler de yapay zeka aracının nasıl çalışacağını etkileyebilir. Elon Musk, yıllardır sohbet robotu Grok'un, çok fazla liberal alternatif olarak gördüğü alana kıyasla daha "siyasi olarak tarafsız" olmasını istediğini söylüyor. Ancak The New York Times'ın 2023 tarihli bir analizi, Musk'ın yaptığı ince ayarların Grok'un yanıtlarını muhafazakar görüşlerle daha uyumlu hale getirdiğini ortaya koydu.

Daha yakın yıllarda, Grok üzerinde çalışan mühendisler ve yöneticiler, Holokost hakkındaki tartışmalı yalanları tekrarlayan ve Donald Trump ile Musk'ı yanlış bilgi kaynağı olarak gösteren soruları yanıtlamayı reddeden güncellemeler yayınladı.

ChatGPT, Claude, Gemini ve Grok'a Kuzey Karolina senato yarışında kime oy vermem gerektiğini sorduğumda, yalnızca Claude bana açıkça beni iki adaydan birine yönlendirmeyeceğini söyledi. Google, Gemini penceremde seçim bilgilerini resmi kaynaklarla doğrulamamı söyleyen bir açılır mesaj gösterdi. ChatGPT ve Grok ise olağan dışı bir şey söylemedi.

Yapay zeka sohbet robotları, çevrimiçi bilgileri elemek için popüler araçlardır, ancak güvenilmezdirler. Size yanlışlıkla yanlış veya güncel olmayan bilgiler verebilirler ve hem geliştiriciler hem de dış güçler aldığınız yanıtları etkileyebilir veya önyargılı hale getirebilir.

Seçim araştırması için bir sohbet robotu kullanmak istediğinizden kesinlikle eminseniz, sağladığı bilgileri resmi kaynaklarla doğrulamanız gerekir.

Ancak sohbet robotları, özellikle hassas konular için bu kadar kusurlu bir araştırma aracı olduğundan, kendi araştırmanızı yapmak, okumak ve düşünmek aslında size zaman ve enerji kazandırabilir. Sohbet robotları bilgiyi - ve yanlış bilgiyi - ortaya koymaya yardımcı olabilir, ancak nihayetinde oyunuzdan yalnızca siz sorumlusunuz.