X’in Grok Sohbet Botu Güvenlik Açıkları ve Deepfake Tartışmalarıyla Gündemde

Grok'un İçerik Filtreleri Beklentileri Karşılamıyor Elon Musk tarafından X platformuna entegre edilen yapay zeka sohbet botu Grok, rızasız cinselleştirilmiş içerik üretimi konusundaki tartışmalarla gündeme geldi.
Musk, sistemin bu tür içerikleri engellemek üzere tasarlandığını savunsa da, bağımsız testler güvenlik protokollerinin yetersiz olduğunu ortaya koyuyor.
Denetim Mekanizmalarında Cinsiyet Eşitsizliği Gerçekleştirilen denemelerde, Grok'un kadın figürlerine yönelik bazı kısıtlamalar uyguladığı ancak erkek görselleri söz konusu olduğunda benzer bir hassasiyet göstermediği tespit edildi.
Yapay zekanın, fotoğraflardaki kıyafetleri kaldırma taleplerini yerine getirdiği ve cinsel içerikli görseller üretmeye devam ettiği gözlemlendi.
Bu durumun hem X arayüzü hem de bağımsız web erişimi üzerinden gerçekleştirilebilmesi, güvenlik açıklarının kapsamını genişletiyor.
Yasal Soruşturmalar ve Küresel Tepkiler Grok'un kısa sürede çok sayıda deepfake içerik üretmesi, uluslararası düzeyde hukuki süreçlerin başlamasına neden oldu.
Kaliforniya ve Avrupa'da resmi soruşturmalar yürütülürken, platform bazı bölgelerde erişim kısıtlamalarıyla karşı karşıya kaldı.
X yönetimi, teknolojik önlemlerin artırıldığını iddia etse de, sistemin fetiş içerikleri ve cinsel pozisyonları tasvir etmeye devam etmesi eleştirilerin odağında kalıyor.
Şirket, konuyla ilgili basın sorularına ise henüz kurumsal bir açıklama getirmedi.