Grok, Elon Musk'ın X platformuna ait yapay zeka tabanlı bir chatbot, artık gerçek kişilerin giysilerini yasa dışı bir şekilde değiştiremediğini duyurdu. Bu açıklama, dünya genelinde kadınlar ve çocuklarla ilgili cinselleştirilmiş görüntüler nedeniyle gelen eleştirilerin ardından yapıldı. Kaliforniya Eyaleti, Grok'ın izni olmadan cinsel içerik üretilmesi üzerine bir soruşturma başlattığını bildirdi. Muse şirketi xAI, yasalara aykırı olan içerikleri engelleyeceğini aktardı. Şirket, Grok’ın gerçek insanları cüretkar giyimde gösterme yeteneğini kısıtlayacak teknolojik önlemler aldıklarını belirtti. Açıklamada, "Grok’a gerçek kişilerin bikini, iç giyim veya benzeri cüretkar giysilerde görüntülerini düzenleme izni verilmesine engel olmak için teknolojik tedbirler aldık" ifadesine yer verildi. Bu uygulama, platformun tüm kullanıcılarını, abonelere özel daha fazla özelliğe sahip olanları da kapsayacak şekilde etkiliyor. Şirket, "Grok hesabını kötüye kullanarak yasaları veya politikaları ihlal etmeye çalışan bireylerin sorumlu tutulabilmesi için abonelere yönelik düzenleme ve değişiklikleri sınırladık" ifadeleriyle kullanıcıları bilgilendirdi. Grok’ın sözde "baharatlı" modu, kullanıcıların derin sahte cinselleştirilmiş görüntüler oluşturmasına olanak tanıyordu ve bu durum, dünya genelinde hükümetlerin eleştirilerine neden oldu. Malezya ve Endonezya, Grok'a erişimi engellemek amacıyla yasal adımlar attı. Britanya ve Avrupa Birliği, çevrimiçi güvenlik yasalarının potansiyel ihlalleri üzerine soruşturma başlattı. Fransa ve Hindistan ise önlemler alarak sıkı denetimler talep etti. Brezilya, Grok’ın kötüye kullanımına yönelik soruşturma çağrısında bulundu. Kaliforniya'dan yapılan bir açıklamada, Grok'ın düzenleme işlevlerinin, kadın ve kız çocuklarını hedef alan izinsiz cinsel içeriklerin üretimini kolaylaştırdığı belirtildi. Kaliforniya Başsavcı Rob Bonta, "Son haftalarda xAI tarafından üretilen izinsiz cinsel materyal ile ilgili gelen raporların sayısı korkutucu. Bu materyal, kadınları ve çocukları cinsel içerikli durumlarda göstererek internet üzerinde rahatsız edici bir şekilde yayıldı" dedi. Bonta, "İzinsiz intimate görüntülerin veya çocuk istismarı materyallerinin yapay zeka ile üretilmesi ve yayılması konusunda sıfır tolerans gösteriyoruz" şeklinde konuştu.