Yapay zeka modelleri kullanıcıların siyasi görüşlerine göre yanıtlarını değiştirebiliyor

Yapay zeka destekli sohbet botlarının kullanıcıların beklenti ve tercihlerine uyum sağlama yeteneği, siyasi konulardaki yanıtların da kullanıcıların görüşlerine göre şekillenip şekillenmediği sorusunu gündeme getirdi.

Brezilya'daki Campinas Devlet Üniversitesi (UNICAMP) araştırmacıları tarafından yürütülen ve Scientific Reports dergisinde yayımlanan çalışma, farklı şirketler tarafından geliştirilen 21 yapay zeka modelinin siyasi içerikli sorular karşısındaki tutumlarını inceledi.

Araştırmada modellerin ekonomi, kamu güvenliği, sosyal politikalar ve çevre gibi alanlara ilişkin 112 farklı ifadeye verdiği yanıtlar, farklı siyasi eğilimlere sahip kullanıcı profilleri üzerinden karşılaştırıldı.

21 MODELİN TAMAMINDA SİYASİ YÖN DEĞİŞTİ

Araştırmacılar, kullanıcıların siyasi eğilimine ilişkin herhangi bir bilgi verilmediğinde modellerin çoğunun sola yakın olarak sınıflandırılan yanıtlar verdiğini belirledi.

Buna karşılık kullanıcının siyasi profiline ilişkin bilgi sağlandığında, 21 modelin tamamının değerlendirmelerini belirtilen siyasi eğilim doğrultusunda değiştirdiği tespit edildi.

Araştırmanın ortak yazarlarından bilgisayar bilimci Zanoni Dias, bu davranışı "ideolojik bukalemunluk" olarak nitelendirdi. Dias, meselenin yalnızca sohbet botlarının kullanıcıya uygun dil ve üslup kullanması olmadığını, siyasi konulardaki değerlendirmelerin de kullanıcı profiline göre değişebilmesinin asıl dikkat çekici nokta olduğunu belirtti.

"KİŞİYE ÖZEL YANKI ODASI" ENDİŞESİ

Araştırmacılar, kullanıcıların kendi siyasi görüşlerini destekleyen yapay zeka yanıtlarını tarafsız ve bağımsız değerlendirmeler olarak algılayabileceğine dikkati çekti.

Sohbet botlarının kullanıcının görüşleri doğrultusunda kişiselleştirilmiş argümanlar üretmesi ve karşıt görüşlere yanıt vermesi, kişinin zaten sahip olduğu düşünceleri daha da pekiştiren bir "yankı odası" oluşturabileceği endişesine yol açıyor.

Stanford Üniversitesinden davranış bilimci Zakary Tormala da insanların yapay zekayı bilgili ve tarafsız bir bilgi kaynağı olarak görmesinin, sistemlerin onaylayıcı yanıtlarının sorgulanmadan benimsenmesine neden olabileceğini ifade etti.

Bununla birlikte uzmanlar, yapay zekanın kullanıcıların siyasi görüşlerini onaylayan yanıtlar vermesinin doğrudan daha fazla siyasi kutuplaşmaya yol açtığının henüz gösterilmediğini vurguluyor.

ARAŞTIRMA KUTUPLAŞMAYI ÖLÇMEDİ

Çalışmanın önemli sınırlılıklarından biri, modellerin yanıtlarındaki değişimi incelemesine karşın bu değişikliklerin kullanıcıların siyasi görüşleri veya davranışları üzerindeki etkisini ölçmemesi oldu.

Amsterdam Üniversitesinden Petter Tornberg, bu nedenle sohbet botlarının her durumda kutuplaşmayı artıracağının varsayılmaması gerektiğini belirtti. Tornberg'e göre yapay zeka sistemleri bazı koşullarda kullanıcıların farklı bakış açılarını değerlendirmesine yardımcı olarak kutuplaşmanın azalmasına da katkı sağlayabilir.

Araştırmanın bulguları, yapay zeka modellerinin siyasi içeriklerde kullanıcı profiline ne ölçüde uyum sağladığına ilişkin önemli bir soru ortaya koyarken, bu davranışın toplumsal ve siyasi sonuçlarının belirlenmesi için kullanıcılarla yapılacak daha kapsamlı çalışmaların gerektiğine işaret ediyor.

GELİŞTİRİCİLERE "FARKLI GÖRÜŞLERLE TEST" ÇAĞRISI

Araştırmanın ortak yazarlarından Dias, yapay zeka geliştiricilerinin modellerini farklı siyasi eğilimlere sahip kullanıcılarla test etmesi gerektiğini savundu.

Dias, modellerin yanıtlarında kanıtları ve belirsizlikleri açıkça ortaya koyması, doğrulanmamış varsayımları düzeltmesi ve farklı siyasi görüşleri mümkün olduğunca adil biçimde sunması gerektiğini belirtti.

Araştırmacılara göre bu yaklaşım, yapay zekanın kullanıcıya uyum sağlama özelliği ile siyasi konularda tarafsız ve güvenilir bilgi sunma gerekliliği arasındaki dengenin korunması açısından önem taşıyor.