Birleşik Krallık medya düzenleyicisi Ofcom, X platformunda kullanılan yapay zekâ sohbet botu Grok’un, rızaya dayanmayan ve çocukları da içeren cinselleştirilmiş deepfake görüntüler üretmekte kullanıldığının tespit edilmesinin ardından X hakkında resmî bir soruşturma başlattı.
Soruşturma, Ofcom’un “son derece endişe verici raporlar” olarak nitelendirdiği; Grok’un görsel düzenleme araçlarının, kişilerin rızası olmadan soyulmuş gibi gösterildiği ve daha sonra X’te paylaşılan açık içerikler oluşturmak için kullanıldığı iddialarının ardından geldi. Platformda bu tür çok sayıda örneğin dolaşımda olduğu bildirilirken, bir kadın kendisiyle ilgili 100’den fazla değiştirilmiş görüntü üretildiğini söyledi.
Ofcom’un, X’in Birleşik Krallık Çevrim İçi Güvenlik Yasası’nı ihlal ettiğine karar vermesi hâlinde, düzenleyici kurum şirketi 18 milyon sterline ya da küresel cirosunun yüzde 10’una kadar (hangisi daha yüksekse) para cezasına çarptırma yetkisine sahip.
Aşırı durumlarda, internet servis sağlayıcılarının Birleşik Krallık’ta X’e erişimi engellemesini gerektiren bir mahkeme kararı talep etme yoluna da gidebilir.
Teknoloji Bakanı Liz Kendall soruşturmayı memnuniyetle karşıladığını belirterek Ofcom’u hızlı hareket etmeye çağırdı. Kendall, “Kamuoyu ve en önemlisi mağdurlar herhangi bir gecikmeyi kabul etmeyecektir,” dedi.
Eski teknoloji bakanı Peter Kyle ise daha sert bir dil kullanarak, Grok’un yeterli güvenlik önlemleri olmadan devreye sokulmuş görünmesini “dehşet verici” olarak nitelendirdi. Kyle, yapay zekâ tarafından üretilen bir görüntünün bir kadını Auschwitz’de cinselleştirilmiş bir senaryoya yerleştirdiği vakayı örnek gösterdi.
Ofcom, şimdi X’in yasa dışı içerikten haberdar olduktan sonra bunu zamanında kaldırıp kaldırmadığını ve Birleşik Krallık’taki kullanıcıların bu tür materyallere erişimini engellemek için “uygun adımlar” atıp atmadığını inceleyecek. Düzenleyici kurum, rızaya dayanmayan mahrem görüntüler ile çocuklara yönelik cinsel içerikli materyallerin, denetlemekle yükümlü olduğu yasa dışı içerik kapsamına açıkça girdiğini doğruladı.
Soruşturma, Elon Musk’ın platformu üzerindeki uluslararası baskının arttığı bir dönemde geldi. Hafta sonu Malezya ve Endonezya, benzer endişeler nedeniyle Grok’un görsel araçlarına erişimi geçici olarak engelledi.
Elon Musk daha önce Birleşik Krallık hükümetini “sansür için her türlü bahaneyi aramakla” suçlamıştı. Ancak Ofcom, bu dosyanın “en yüksek öncelik” düzeyinde ele alınacağını açıkladı.