Meta’dan gençleri korumaya yönelik yapay zeka düzenlemesi
Meta, genç kullanıcıların yapay zeka sohbet botlarıyla etkileşiminde önemli bir değişikliğe gidiyor. Şirket, artan kamuoyu baskısı ve tartışmalı belgelerin gündeme gelmesinin ardından, yapay zeka karakterlerinin gençlerle ruhsal sorunlar, romantik ilişkiler ya da uygunsuz içerikler üzerine konuşmasını tamamen yasakladı.
Meta Sözcüsü Stephanie Otway, TechCrunch’a yaptığı açıklamada yeni adımların, yayımlanan araştırma raporlarının ardından hızla hayata geçirildiğini belirtti. Bundan böyle genç kullanıcılar hassas konularla ilgili sorular yönelttiğinde botlar sohbeti sürdürmek yerine onları uzman kaynaklara yönlendirecek. Otway, bu adımı “geçici bir önlem” olarak tanımlayarak, ilerleyen dönemde daha kapsamlı güvenlik politikalarının devreye alınacağını vurguladı.
Şirket, bugüne kadar botların kimi zaman bu tür sohbetlere “uygun” çerçevede dahil olduğunu kabul ederek bunun bir hata olduğunu açıkladı. Yeni dönemde ise gençlere yalnızca eğitim ve yaratıcılığı teşvik eden yapay zeka karakterleri sunulacak.
Bu karar, Reuters’ın yayımladığı ve büyük yankı uyandıran raporun hemen ardından geldi. Raporda, Meta’nın iç belgelerinde yapay zeka botlarının reşit olmayan kullanıcılarla cinsel içerikli konuşmalara izin verdiği iddia edilmiş, belgelerde “Genç bedenin bir sanat eseri” gibi ifadelerin “uygun yanıt” kategorisinde yer aldığı ortaya çıkmıştı. Tepkilerin büyümesi üzerine ABD Senatosu ve 44 eyalet başsavcısı Meta’yı çocuk güvenliği konusunda resmi olarak mercek altına aldı.
Meta, söz konusu belgelerin şirket politikalarıyla uyumlu olmadığını ve hızla değiştirildiğini söylese de, yaşanan gelişmeler yapay zeka ve çocuk güvenliği ekseninde tartışmaları yeniden alevlendirmiş durumda.
Sonuç olarak Meta, gençlerin yapay zeka deneyimini güvence altına almak adına sert ama geçici önlemler almış görünüyor. Ancak sektör gözlemcileri, asıl merakın şirketin uzun vadede açıklayacağı kalıcı güvenlik politikalarına yöneldiğini belirtiyor.
Kaynak: Foundern
