X Platformunda Yapay Zeka Destekli "fox8" Bot Ağı Deşifre Edildi

Sahte bir haber sitesinden esinlenilerek isimlendirilen "fox8" botneti, geleneksel denetim sistemlerini atlatmak için ileri düzey yapay zeka modellerini kullanıyor.
Indiana Üniversitesi araştırmacıları tarafından yürütülen çalışma, kötü niyetli aktörlerin etik sınırlamaları kaldırılmış açık kaynaklı yazılımlar aracılığıyla nasıl karmaşık sistemler kurabildiğini gözler önüne seriyor.
Bu yöntemle platformun öneri algoritmasını yanıltan botlar, içeriklerini geniş kitlelere ulaştırarak kısa sürede yüksek takipçi sayılarına ulaşıyor.
Botların temel amacının ise kullanıcıları kripto para dolandırıcılığına yönlendirmek olduğu belirtiliyor.
Tespit Edilmesi Güçleşiyor Araştırma ekibi tarafından geliştirilen Botometer gibi makine öğrenimi araçlarının dahi bu yeni nesil yapay zeka hesaplarını gerçek kullanıcılardan ayırt etmekte zorlandığı ifade edildi.
Yapay zeka tarafından üretilen içerikleri saptamak üzere eğitilen özel modellerin bile bu süreçte yetersiz kaldığı kaydedildi.
Uzmanlar, bu durumun sadece finansal dolandırıcılıklar için değil, aynı zamanda demokratik seçimlere yönelik dezenformasyon operasyonları için de ciddi riskler barındırdığı uyarısında bulunuyor.
Kamuoyu Algısına Yönelik Tehdit Araştırma ekibinden Filippo Menczer, mevcut teknolojinin kötü niyetli aktörlere otonom, uyum sağlayabilen ve koordineli hareket eden çok sayıda dijital ajan kullanma imkanı tanıdığını belirtti.
Bu yeni nesil bot sürüleri, standart spam mesajlar yerine kullanıcıların bireysel tercihlerine ve sohbet bağlamına göre özelleştirilmiş, inandırıcı içerikler üretebiliyor.
Platformdaki etkileşim oranlarına anlık tepki veren bu sistemler; ton, üslup ve içeriklerini dinamik bir şekilde değiştirerek çevrim içi kamuoyu algısını manipüle edebiliyor.