X’in yapay zekâ modeli Grok, son zamanlarda görsel oluşturma ve düzenleme özelliği nedeniyle gündem olmuştu. Yapay zekâ aracı, kullanıcıların istekleri üzerine platformdaki her kullanıcının görüntülerini dijital olarak değiştiriyordu. Bu şekilde de birçok insanın uygunsuz görüntüleri oluşturulmuştu. Gelen tepkilerin ardından da şirket değişiklikler yapmıştı. İlk olarak sadece ücretli abonelerin özelliği kullanması sağlanmıştı. Sonrasında ise müstehcen görsel oluşturulmasının engellendiği ifade edilmişti.
Şimdi ise Grok tarafından oluşturulan müstehcen görüntüler hakkında veriler geldi. Dijital Nefretle Mücadele Merkezi, Grok’un 11 günlük süre boyunca ne kadar cinsel içerikli görüntü ürettiğini paylaştı.
3 milyon müstehcen görüntü üretildi, 23 bini çocuklara ait
Paylaşılan verilere göre 29 Aralık ila 9 Ocak tarihlerini kapsayan süreçte X üzerinden Grok ile toplamda 3 milyon adet cinsel içerikli görsel üretildi. Daha da korkuncu ise bu görsellerin 23 bini çocukları içeriyordu. Durumun ciddiyetini daha da anlamanız için bu verilerin dakikada 190 müstehcen görüntüye ve 41 saniyede 1 çocuk görseline denk geldiğini belirtelim.
Kuruluş, bu süreçte Grok tarafından üretilen 20 bin civarı görseli inceleyerek bu verilere ulaştı. Sonuçlarda insanların cinsel pozisyonlarda, iç çamaşırı, mayo veya benzeri açık kıyafetler giydirilmiş bir şekilde görsellerinin oluşturulduğu belirtildi. Veriler, özelliğin ne kadar suistimal edildiğini gözler önüne seriyor. Neyse ki artık her isteyen görsel oluşturamıyor.