Küresel baskı: Bu ülkeler, rıza dışı cinsel içerikli açık deepfake’ler nedeniyle Grok’u kısıtlıyor veya ona karşı ses yükseltiyor
Dünya genelindeki hükümetler, sahte, cinsel içerikli açık görüntüler ürettiğine dair artan endişeler arasında Elon Musk’ın yapay zekâ (AI) chatbot’u Grok’u dizginlemek için hızla harekete geçiyor.
Geçen yaz, Grok’un işletmeci şirketi xAI, yetişkin içerik üretebilen bir ‘spicy mode’ içeren bir görüntü üretici özelliği ekledi.
Son haftalarda Grok, kullanıcıların kadın görüntülerini ‘soyması’ ve onları bikiniler giydirmesi yönündeki istemlerine yanıt vererek, hiçbir güvenlik önlemi olmadan AI üretimi deepfake’ler oluşturdu.
Güneydoğu Asya’daki doğrudan engellemelerden Avrupa ve Avustralya’daki ceza soruşturmaları ve düzenleyici uyarılara kadar, yetkililer mevcut korumaların başarısız olduğunu söylüyor.
Bunlar, Grok’u yasaklayan veya Grok hakkında uyarıları dikkate alan ülkeler.
Hangi ülkeler Grok’u yasakladı?
Endonezya
Endonezya, AI kullanılarak üretilen sahte pornografik içerikten kadınları, çocukları ve daha geniş toplumu korumak için Grok’u geçici olarak engelleyen ilk ülke oldu.
Endonezya’nın iletişim ve dijital işler bakanı Meutya Hafid, cumartesi günü yaptığı açıklamada, “Hükümet, rıza dışı cinsel deepfake’leri insan haklarının, onurun ve dijital alanda vatandaşların güvenliğinin ciddi bir ihlali olarak görüyor,” dedi.
Endonezya Ulusal Polisi, Grok’a getirilen kısıtlamaların, yetkililer platformun güvenli olup olmadığını değerlendirirken alınan “önleyici” bir tedbir olduğunu söyledi.
Endonezya dijital alan denetimi genel müdürü Alexander Sabar’ın açıklamasına göre, ilk bulgular Grok’un, Endonezya’da ikamet eden kişilerin gerçek fotoğraflarına dayalı pornografik içeriklerin oluşturulmasını ve dağıtımını durdurmak için etkin korumalara sahip olmadığını gösterdi.
Sabar, bu tür uygulamaların, fotoğraflar rıza olmaksızın manipüle edildiğinde veya paylaşıldığında mahremiyeti ve görüntü haklarını ihlal etme riski taşıdığını; psikolojik, sosyal ve itibarla ilgili zarara yol açtığını söyledi.
Malezya
Malezya İletişim ve Multimedya Komisyonu (MCMC), aracın müstehcen, cinsel içerikli açık ve rıza dışı manipüle edilmiş görüntüler üretmek için “tekrarlanan biçimde kötüye kullanıldığı” gerekçesiyle pazar günü Grok’a geçici yasak talimatı verdi.
Düzenleyici kurum, bu ay X’e ve xAI’ya daha güçlü korumalar talep eden iki bildirim gönderdiğini söyledi. Yanıtlarında X, Grok’un büyük ölçüde kullanıcıların kötüye kullanım içeriği hakkında şikâyet sunmasına dayandığını söyledi.
MCMC, X’in AI platformunun tasarım ve işletimindeki “doğal riskleri ele almakta başarısız olduğu” sonucuna vardı; bunun, Malezya yasaları kapsamında yetersiz olduğunu belirtti.
Kurum, “Kısıtlama, hukuki ve düzenleyici süreçler devam ederken önleyici ve orantılı bir tedbir olarak uygulanmaktadır,” dedi ve etkili korumalar devreye alınana kadar erişimin engelli kalacağını ekledi.
Diğer ülkeler nasıl yanıt verdi?
Avrupa Birliği
Avrupa Komisyonu, Grok tarafından üretilen küçük kız çocuklarına ait cinsel imalı ve açık görüntü vakalarını incelediğini duyurdu.
Komisyon sözcüsü, geçen hafta Brüksel’de gazetecilere, “Bu kürsüden Komisyon’un bu konuyu da son derece ciddi biçimde incelediğini teyit edebilirim,” dedi.
Reuters, bloğun AB kurallarına uyup uymadığını değerlendirebilmesi için Komisyon’un X’e, Grok ile ilgili tüm belgeleri yıl sonuna kadar muhafaza etmesini emrettiğini bildirdi.
Komisyon sözcüsü Reuters’a bunun resmî bir soruşturmanın başlatıldığı anlamına gelmediğini söyledi.
Avrupa Komisyonu Başkanı Ursula Von der Leyen, İtalyan gazetesi Corriere della Sera’ya verdiği bir mülakatta, “bir teknoloji platformunun kullanıcıların kadınları ve çocukları çevrimiçi ortamda dijital olarak soymasına izin vermesine öfkelendiğini” söyledi.
Von der Leyen, X’i veya Grok’u doğrudan anmadan, Komisyon’un “çocuk korumasını ve rızayı Silikon Vadisi’ne devretmeyeceğini. Onlar harekete geçmezse, biz geçeceğiz,” dedi.
Birleşik Krallık
Birleşik Krallık’ın medya denetim kurumu, Grok’un cinsel içerikli açık ve rıza dışı görüntüler üretmek için kullanılmasına ilişkin olarak, xAI’nın ana şirketi X ve Musk’ın sosyal medya platformu hakkında bir soruşturma başlattı.
Ofcom, açıklamasında chatbot’un insanların soyundurulmuş görüntülerini oluşturmak ve paylaşmak için kullanıldığına, ayrıca “çocukların cinselleştirilmiş görüntülerine” dair “son derece endişe verici raporlar” bulunduğunu söyledi.
Medya denetim kurumu, X Ofcom’un gerekliliklerine uymazsa, internet servis sağlayıcılarını Grok’a erişimi engellemeye zorlamak için mahkeme kararı da talep edebilir.
X, küresel gelirinin yüzde 10’una kadar ya da £18 milyon (€20 milyon) tutarında para cezasıyla karşı karşıya kalabilir.
_“_X üzerinde dolaşıma giren içerik iğrenç. Bu, sadece düzgün bir topluma hakaret değil, yasa dışıdır,” teknoloji bakanı Liz Kendall parlamentoya söyledi.
Fransa
Yerel medya, Paris Savcılığı’nın ocak ayının başında X’e yönelik bir soruşturmayı Grok’u da kapsayacak şekilde genişlettiğini bildirdi.
Geçen temmuzdan beri süren ilk soruşturma, X’in bilgisayar sistemlerine yönelik şüpheli organize müdahaleye ve verilerin yasa dışı biçimde elde edilmesine odaklanıyordu.
Fransız gazetesi Le Parisien’e göre, beş siyasetçinin platformu, reşit olmayanları içeren sahte cinsel içerikli açık videolar üretmek ve yaymakla suçlamasının ardından soruşturmayı genişletme kararı bu hafta alındı.
Gazete, Fransa’nın Görsel-İşitsel ve Dijital İletişim Düzenleme Kurumu’nun (Arcom), dijital hizmetlere ilişkin Avrupa düzenleme kuralları olan Dijital Hizmetler Yasası’nın potansiyel ihlalleri bakımından X’i incelediğini bildirdi.
İtalya
8 Ocak’ta İtalya Veri Koruma Otoritesi (Garante), Grok’u veya insanların kıyafetlerini kaldırmak için kullanılan diğer AI platformlarını kullananlar ile bu görüntüleri dağıtanların cezaî suçlamalarla karşı karşıya kalma riski taşıdığı uyarısında bulundu.
Kurum, fotoğraftaki kişinin izni olmadan bu araçların kullanılmasının, “ilgili bireylerin temel hak ve özgürlüklerinin ciddi bir ihlali” olarak değerlendirilebileceğini söyledi.
Otorite ayrıca, Grok ve diğer AI sağlayıcılarına, gizlilik düzenlemelerine uygun ürünler tasarlamak, geliştirmek ve kullanıma sunmak zorunda olduklarını hatırlattı.
İtalyan düzenleyici, şirketin merkezinin İrlanda’da bulunması nedeniyle, X’in başlıca gizlilik otoritesi olan İrlanda Veri Koruma Komisyonu ile birlikte çalıştığını söyledi.
Ekim ayında İtalya’nın otoritesi, kıyafetleri kaldıran başka bir AI üretimi platform olan ClothOff’u engelledi. Platform, reşit olmayanlar da dâhil herkesin, gerçek kişileri çıplak veya cinsel pozisyonlarda tasvir eden fotoğraf ve videolar oluşturmasına izin veriyor.
Eylül ayında İtalya, AI deepfake’leri yayanları en fazla beş yıl hapisle cezalandırmak üzere ceza kanununa yeni bir maddeyi (articleunder) ekledi.
Almanya
Almanya, dijital şiddete karşı yeni bir yasa için yakında “somut bir öneri” sunacağını söyledi.
Almanya Adalet Bakanlığı sözcüsü Anna-Lena Beckfeld, ocak ayında bir basın toplantısında, nihai dijital şiddet yasasının, bunu “bu tür bir dijital şiddetin” mağdurlarını desteklemenin bir yolu olacağını; onların “haklarının çevrimiçi ihlallerine karşı doğrudan harekete geçmesini kolaylaştıracağını” söyledi.
Grok özelinde sorulduğunda Beckfeld, manipülasyonun kişisel hakların sistematik ihlalleri için geniş ölçekte kullanılmasının “kabul edilemez” olduğunu söyledi.
“Bu nedenle, ceza hukuku yoluyla buna karşı daha güçlü önlemler alınmasını istiyoruz,” diye ekledi.
Koalisyon anlaşmasına göre Almanya’nın üç ana partisi, 2025’te, AI üretimi cinsel görüntüler gibi AI ile bağlantılı suçlar için ceza kanunundaki “boşlukları” kapatmak ve siber suç hukukunu reforme etmek üzere anlaştı.
Avustralya
Ocak ayında Avustralya eSafety Komiseri Ofisi, son birkaç hafta içinde Grok’un cinsel AI içeriği hakkında az ama artan sayıda bildirim aldığını söyledi.
Komiserlik ofisi, içeriklerden herhangi biri ülkenin Çevrimiçi Güvenlik Yasası’nı ihlal ediyorsa, sorunlu içeriğin kaldırılmasını bir sosyal medya sitesine emredebilecek bir kaldırma bildirimi gibi yetkilerini kullanacağını belirtti.
Ofis, Grok’un cinsel hizmetinin kötüye kullanımı hakkında ve Avustralya’nın yeni sosyal medya yasasına uyup uymadığını değerlendirmek için X’ten hâlihazırda daha fazla bilgi talep etti.
Ayrıca Grok’a, 9 Mart itibarıyla, AI şirketleri dâhil çevrimiçi hizmetlerin çocukların cinsel, şiddet içeren veya zararlı içeriğe erişimini engellemek zorunda olacağını hatırlattı.
Geri bildirim: Muhaberat Evirileri — özel sayfa | 🦋🤖 YERSİZ ŞEYLER