Yapay zekâ teknolojileri hayatımızın birçok alanında kolaylık sağlasa da bazı sorunları da beraberinde getiriyor. Bunlardan biri de yapay zekâ ile insanların rızası olmadan oluşturulan uygunsuz görseller. Şimdi yapılan bir araştırma ise alınan tüm önlemlere rağmen bu tarz görüntü oluşturan uygulamaların hâlâ çok yaygın olduğunu gösteriyor.
Teknoloji Şeffaflığı Projesi (TTP) adlı organizasyon tarafından yapılan yeni bir araştırma, App Store ve Google Play Store’da hâlâ önlemlerin yeterli olmadığını gösterdi. Öyle ki sonuçlara göre bu mağazalarda hâlâ çok sayıda “çıplaklaştırma” olarak nitelendirilen uygulamalar var.
700 milyondan fazla kez indirilen onlarca uygulama tespit edildi
Araştırma sonucunda Play Store’da bu türden 55, Apple’ın mağazası App Store’da ise 47 adet uygulama tespit edilmiş. Bu “çıplaklaştırma” uygulamaları, yapay zekâ teknolojilerini kullanarak insanların rızası olmadan onların uygunsuz, cinsel içerikli deepfake görüntülerini oluşturuyor. Tahmin edebileceğiniz gibi bu, tamamen Apple ve Google’ın politikalarına aykırı. Buna rağmen düzinelerce uygulamanın hâlâ mağazalarda yer aldığını görebiliyoruz.
TTP tarafından yapılan açıklamada Apple ve Google’ın mağazalarındaki uygulama deneyimlerini artırması gerektiğini, insanların iç çamaşırlı veya tamamen kıyafetsiz görsellerini oluşturan ve kötüye kullanımı bir hayli fazla olan bu tarz onlarca uygulamanın kaldırılamsı gerektiğini belirtti. Araştırmada yer alan uygulamaların toplamda 700 milyondan fazla indirildiği ve 117 milyon dolardan fazla gelir elde ettiği de aktarıldı. Daha da kötü olan şey ise Apple ve Google da bu gelirlerden pay alıyor.
Araştırmanın derinlerine indiğimizde durumun daha da kötüleştiğini görüyoruz. Öyle ki uygulamaların çoğu gençler ve çocuklar için uygun olarak derecelendirilmiş. Örneğin, DreamFace uygulaması Google Play Store’da 13 yaş ve üzeri, Apple App Store’da ise 9 yaş ve üzeri için uygun olarak derecelendirilmiştir. Uygunsuz görüntüler oluşturan uygulamaların çocuklara uygun olarak nitelendirmesi gerçekten endişe verici.
Google ve Apple’dan açıklama geldi
Araştırmanın paylaşılamsının ardından Apple ve Google’dan açıklama geldi. Apple, açıklamasında bahsi geçen 24 uygulamayı kaldırdığını açıkladı. Ancak TTP verileri 47 uygulama diyordu. Bu yüzden hâlâ hepsi kaldırılmış değil. Öte yandan Google ise araştırmada adı geçen bazı uygulamaları politika ihlali nedeniyle askıya aldığını açıkladı ancak kaç uygulamayı kaldırdığını paylaşmadı.