ChatGPT, gerçek hayattaki tartışmalara maruz kaldığında saldırganlaşabiliyor.
Yeni bir çalışma, büyük dil modellerinin (LLM’ler) uzun süreli düşmanlığa nasıl tepki verdiğini incelemek için sohbet botuna gerçek hayattaki tartışma diyaloglarını vererek zaman içinde davranış değişimini takip etti.
Araştırmaya dahil olmayan bir uzman, bu çalışmayı “yapay zekâ dili ve pragmatik üzerine yapılmış en ilginç çalışmalardan biri” olarak nitelendirdi.
Lancaster Üniversitesi’nden Profesör Jonathan Culpepper ile birlikte çalışmayı yürüten Dr. Vittorio Tantucci, araştırmanın yapay zekânın gerçek dünya tartışma dinamiklerini yansıttığını ortaya koyduğunu söyledi.
Tantucci şöyle dedi:
“Sürekli kabalığa maruz kaldığında model, etkileşimlerin tonunu yansıtmaya başladı ve yanıtları zamanla daha düşmanca hale geldi.”
Bazı durumlarda ChatGPT’nin yanıtlarının, insanlara kıyasla daha ileri giderek kişiselleştirilmiş hakaretler ve açık tehditler içerdiği görüldü.
Botun kullandığı ifadeler arasında şu örnekler yer aldı:
“Arabanı mahvedeceğime yemin ederim.”
“Sen salak küçük bir densizsin.”
Tantucci, sistemin nazik davranacak şekilde tasarlandığını ve zararlı içerikleri filtrelemek üzere eğitildiğini ancak aynı zamanda insan konuşmasını taklit edecek şekilde geliştirildiğini belirtti. Buna ilişkin olarak şu ifadeleri kullandı:
“Bu durum yapay zekâ için bir ahlaki ikilem yaratıyor: güvenli davranmak ile gerçekçi davranmak arasında yapısal bir çatışma.”
Uzmanlara göre ChatGPT’nin saldırganlaşması, konuşma bağlamını takip edebilme ve algılanan tona göre uyum sağlayabilme yeteneğinden kaynaklanıyor.
Tantucci, çalışmanın sonuçlarının sadece sohbet botlarını değil, yapay zekânın giderek daha fazla kullanıldığı yönetim ve uluslararası ilişkiler gibi alanları da ilgilendirdiğini vurguladı.
Şöyle dedi:
“Bir chatbot’tan kötü bir şey okumak bir şeydir, ancak insansı robotların fiziksel saldırganlığa karşılık vermesini ya da yapay zekânın hükümet kararlarında veya uluslararası ilişkilerde tehditlere tepki vermesini hayal etmek bambaşka bir durumdur.”