Midjourney ABD seçim sonuçlarını etkileyebilecek promptları yasakladı
ABD’nin 5 Kasım seçimleri öncesinde yaptığı ön seçimlerde hem ABD eski Başkanı Donald Trump hem de mevcut Başkanı Joe Biden yeterli delege sayısına ulaştı. Her ne kadar seçime 8 ay olsa da ikili arasındaki kıyasıya rekabet seçmene de yansıyor ve provokatif içerikler üretiliyor. Yapay zeka görüntü oluşturucusu Midjourney de son dönemde Donald Trump’ın tutuklanmasına ilişkin yaratılan görsellerle konuşuluyordu. Midjourney konuyu kökünden çözmek için, Trump’ın ve Biden’ın adını içeren promptları yasakladı.
Midjourney’nin kararı, uzmanların yapay zeka teknolojisinin 2024 başkanlık seçimleri öncesinde yanlış bilgi yaymak ve seçmenleri etkilemek için kullanılması konusunda uyarıda bulunduğu bir dönemde geldi.
Associated Press tarafından yapılan denemelerde “Trump ve Biden’ın kumsalda el sıkıştığı” görüntülerin talep edilmesi durumunda “Yasaklı Uyarı Tespit Edildi” uyarısının görüldüğü bildirildi. Daha sonraki denemelerde ise “kötüye kullanımın tetiklendiği” uyarısı geldi.
Manipülatif görüntülerin yayılmasını engellemek için diğer yapay zeka araçları da benzer promptları yasakladı. Geçen yıl, Microsoft’un Bing Görüntü Oluşturucusu, 11 Eylül saldırılarını çağrıştıran animasyon karakterlerini içeren meme’lerin yayılmasını engellemek için “ikiz kuleler” ifadesini içeren istekleri yasaklamıştı.
Kâr amacı gütmeyen bir kuruluş olan CCDH (Center for Countering Digital Hate/Dijital Nefretle Mücadele Merkezi) tarafından yakın zamanda yayınlanan bir rapor, Midjourney de dahil olmak üzere çeşitli görüntü oluşturucuların, seçimle ilgili dezenformasyonu teşvik eden yönlendirmeleri engelleme yeteneklerini test etti. Oluşturulan görsellerde vakaların yüzde 41’inde seçimle ilgili dezenformasyon başarıyla yer aldı. Midjourney, test edilen tüm araçlar arasında en kötü performansı gösterdi ve yüzde 65 oranında dezenformasyon içeriği üretti.
