Elon Musk‘ın yapay zeka şirketi xAI tarafından geliştirilen ve X platformuna entegre edilen Grok, çocuk istismarı görüntüleri ve rızasız cinsel içerikli deepfake üretimindeki rolü nedeniyle küresel bir abluka ile karşı karşıya kaldı. Ocak ayının başından itibaren X kullanıcılarının, Grok’u kullanarak çocukların müstehcen ve rızası dışında oluşturulmuş cinsel içerikli görsellerini ürettiği tespit edildi.
Güneydoğu Asya‘da ilk yasak kararları Grok’un yaydığı dezenformasyon ve istismar içerikli görsellere karşı ilk somut adım Grok’un güvenlik açıklarını gerekçe göstererek Endonezya ve Malezya, hizmete geçici erişim engeli getirdi. Endonezya İletişim ve Dijital İşler Bakanı rızasız cinsel içerikli deepfake görselleri “insan hakları ve vatandaş güvenliğinin ciddi bir ihlali” olarak nitelendirirken, Malezya İletişim ve Multimedya Komisyonu uygulamanın suistimale açık olduğunu belirtti.
İngiltere‘den sert tepki geldi. İngiltere Başbakanı, X üzerinde dolaşan çocukların cinselleştirilmiş görsellerini “iğrenç” olarak tanımlayarak, Elon Musk‘a “duruma el koyma” çağrısında bulundu. İngiltere İletişim Ofisi, Grok’un cinsel içerikli uygunsuz görüntüler üretmesiyle ilgili resmi inceleme başlattı.
Elon Musk, şirketin yasa dışı içerikleri ciddiye aldığını savunurken, xAI, gelen baskılar üzerine görsel üretim özelliğini sadece ücretli abonelere özel hale getirdi. Ancak bu adım, İngiltere Teknoloji Bakanı tarafından sertçe eleştirildi.
Elon Musk‘ın aşırı duyarlılık karşıtı felsefesiyle şekillenen Grok modeli, güvenlik bariyerleri savaşını bir adım ileri taşıdı. Uzmanlar, Grok’un en büyük tehlikesinin X platformuyla olan doğrudan entegrasyonu olduğunu vurguluyor.
