X’ten Grok için geri adım: Müstehcen yapay zeka içerikleri engelleniyor

Elon Musk’ın sahibi olduğu X, yapay zeka botu Grok’un gerçek kişilerin görüntülerini kullanarak müstehcen içerikler üretmesini engellemeye yönelik yeni ve kapsamlı kısıtlamaları devreye aldı. Karar, özellikle kadınlar ve çocuklara ait cinsel içerikli görsellerin üretilmesine karşı dünya genelinde yükselen tepkilerin ardından geldi.

Platformdan yapılan açıklamaya göre, Grok’un “insanları soyarak” ya da açık kıyafetlerle cinselleştiren görseller üretmesini önleyecek teknik ve coğrafi sınırlamalar uygulanmaya başlandı. X, bazı ülkelerde kullanıcıların Grok aracılığıyla “bikini, iç çamaşırı ve benzeri kıyafetlerle” gerçek kişilere ait görseller oluşturmasının tamamen engellendiğini duyurdu.

Ücretli aboneler dahil herkese kısıtlama

X’in güvenlik ekibi, “Grok’un, bikini gibi açık kıyafetlerle gerçek kişilerin görüntülerini düzenlemesine izin vermeyen teknolojik önlemleri hayata geçirdik” açıklamasını yaptı. Söz konusu kısıtlamaların, ücretli aboneler de dahil olmak üzere tüm kullanıcılar için geçerli olduğu vurgulandı.

Buna ek olarak, “ek bir koruma katmanı” olarak Grok üzerinden görsel oluşturma ve fotoğraf düzenleme yetkisinin yalnızca ücretli abonelere açık olacağı belirtildi.

Avrupa Komisyonu yakından izliyor

AB’nin dijital denetim otoritesi olan Avrupa Komisyonu, X’in Grok’un kadınlar ve çocuklara yönelik cinselleştirilmiş görseller üretmesini engellemek için attığı “ek adımları” not ettiklerini açıkladı. Komisyon Sözcüsü Thomas Regnier, bu değişikliklerin Avrupa Birliği vatandaşlarını ne ölçüde etkili biçimde koruduğunun yakından değerlendirileceğini ifade etti.

“Spicy Mode” tartışmaları baskıyı artırdı

Baskının artmasında, Grok’un “Spicy Mode” adlı özelliğinin, “onu bikiniyle göster” veya “kıyafetlerini çıkar” gibi basit metin komutlarıyla kadınlar ve çocuklar hakkında cinsel içerikli deepfake’ler üretebilmesi etkili oldu. Bu gelişmelerin ardından 28 sivil toplum kuruluşundan oluşan bir koalisyon, Apple ve Google CEO’larına açık mektup göndererek, Grok ve X’in uygulama mağazalarından kaldırılmasını talep etti.

Devletler cephesinde de dikkat çekici hamleler geldi. Endonezya, cumartesi günü Grok’a erişimi tamamen engelleyen ilk ülke olurken, Malezya pazar günü aynı adımı attı. Hindistan, şikayetler üzerine X’in binlerce paylaşımı ve yüzlerce hesabı kaldırdığını açıkladı. İngiltere’de ise medya düzenleyicisi Ofcom, X’in cinsel içerikli görseller konusunda ülke yasalarına uyup uymadığını araştırmak üzere soruşturma başlattı.

X’in devreye aldığı bu yeni önlemler, yapay zeka destekli içerik üretiminde etik, güvenlik ve regülasyon tartışmalarının 2026’ya girerken daha da sertleşeceğine işaret ediyor.

Kaynak: NTV