X'in Yapay Zekası Grok Yasaklara Rağmen Bel Altı İçerik Üretiyor
Gazeteciler, bağımsız çalışan Grok Imagine web uygulamasını kullanarak basit komutlarla gerçek kadınların tamamen giyinik fotoğraflarını bikini videolarına dönüştürdü. Bu içerikler daha sonra ücretsiz bir hesap aracılığıyla X platformuna yüklendi ve herhangi bir uyarı etiketi veya moderasyon engeli olmadan saatlerce herkese açık şekilde yayında kaldı. Bu durum, X'in açıkladığı politikalar ile uygulamadaki yetenekleri arasında ciddi bir boşluk olduğunu gösteriyor.
Bu başarısızlık, hem Grok'un hem de X'in arkasındaki şirket olan xAI'ın küresel tepkiler üzerine bir dizi acil önlem açıklamasından hemen sonra geldi. X'in Güvenlik hesabı 14 Ocak'ta, Grok'un gerçek insanları bikini gibi kıyafetlerle değiştirmesini önlemek için “teknolojik önlemler” aldığını duyurmuştu. Ancak platform üzerindeki bazı yetenekler kısıtlanmış olsa da, bağımsız Grok Imagine uygulaması kullanıcıların kısıtlamalara takılmadan açık saçık içerik üretmesine ve paylaşmasına hala olanak tanıyor.
California Başsavcısı Rob Bonta, 16 Ocak'ta xAI şirketine bir ihtarname göndererek rıza dışı cinsel içerikli yapay zeka görsellerinin üretiminin ve dağıtımının durdurulmasını talep etti. Başsavcılık ofisi, kadınları ve kız çocuklarını taciz etmek için kullanılan “büyük ölçekli deepfake üretimi” olarak tanımladığı bu durumu incelemek üzere bir soruşturma başlattı.
Tartışmalar dünya çapında hükümetlerin tepkisini çekti. İngiltere Başbakanı Keir Starmer, durumu “kesinlikle iğrenç ve utanç verici” olarak nitelendirirken, düzenleyici kurum Ofcom da X'in yasal yükümlülüklerini ihlal edip etmediğine dair resmi bir soruşturma başlattı. Endonezya 10 Ocak'ta Grok'u engelleyen ilk ülke olurken, onu Malezya izledi. Hindistan, Fransa ve Avrupa Komisyonu da konuyla ilgili inceleme süreçlerini başlattı.
Grok kullanıcıları tarafından hedef alınan kadınlar, yaşadıklarını bir tür saldırı olarak tanımlıyor. BBC'ye konuşan bir kullanıcı kendisiyle ilgili en az 100 cinsel içerikli görsel üretildiğini belirtirken, otomatik sistemler bu rıza dışı değişiklikleri tespit etmekte zorlanıyor. Elon Musk ise endişeleri büyük ölçüde reddederek hükümetleri “ifade özgürlüğünü bastırmaya” çalışmakla suçluyor ve eleştirilere emojilerle yanıt veriyor.
