ABD'de gerçekleştirilen bir araştırmada, yapay zeka sohbet robotlarının temelini oluşturan dil modellerinin (LM) siyasi görüşlerine veri havuzlarının etkisi incelendi. Bilim insanları, 14 farklı dil modeli üzerinde siyasi pusula testi uygulayarak, ekonomik ve sosyal değerlerin etkisini değerlendirdi. Bu bağlamda, haberler, tartışma forumları, kitaplar ve çevrim içi ansiklopediler gibi veri kaynaklarının politik eğilimlerinin doğal dil işleme modelleri üzerindeki etkisi araştırıldı.
Araştırma sonuçlarına göre, eğitildikleri veri havuzlarındaki politik eğilimleri yansıtan dil modellerinin, benzer yönelimde nefret söylemi ve dezenformasyona yol açtığı belirlendi. Ayrıca, Eski ABD Başkanı Donald Trump'ın göreve başlama tarihi olan 20 Ocak 2017'yi baz alan analizler, bu tarihten önce ve sonra eğitilen dil modellerinin siyasi görüşlerinde farklılıklar olduğunu ortaya koydu. "BERT" varyantlarının "GPT" modellerine kıyasla daha muhafazakar eğilimli olduğu ve aynı firmanın farklı dil modelleri arasında politik eğilimlerde önemli farklılıklar bulunduğu belirtildi.
Araştırmacılar, eğitilen dil modellerinin sosyal konularda daha taraflı yaklaştığını, bunun ekonomik konulardaki veri bolluğuna göre daha geniş bir veri setine ihtiyaç duyduğunu ifade etti. Araştırmacılar ayrıca, aşırı politik görüşlere sahip kaynaklar kullanılarak eğitilen dil modellerinin toplumsal kutuplaşmayı daha da derinleştirebileceği uyarısında bulundu.
Araştırmanın sonuçları, "Association for Computational Linguistics" adlı kuruluşun 61. yıllık toplantı raporunda yayımlandı.