ChatGPT 18 yaşın altındaki kullanıcılara yeni kısıtlamalar uygulayacak
OpenAI CEO’su Sam Altman, Salı günü yaptığı açıklamayla ChatGPT’nin kullanıcı politikalarında kapsamlı değişikliklere gidileceğini duyurdu. Yeni düzenlemeler, özellikle 18 yaş altı kullanıcılarla etkileşim konusunda kritik sınırlamalar getiriyor. Altman, paylaşımında “Gençler için mahremiyet ve özgürlükten önce güvenliğe öncelik veriyoruz” ifadelerini kullanarak şirketin önceliğini net bir şekilde ortaya koydu. “Bu yeni ve güçlü bir teknoloji ve gençlerin önemli ölçüde korunmaya ihtiyaç duyduğuna inanıyoruz” diyen Altman, yapay zeka sohbet robotlarının gençler üzerindeki etkilerine dair artan endişeleri yanıtladı.
Yeni politikalar kapsamında ChatGPT, artık reşit olmayan kullanıcılarla “flörtöz konuşmalar” yapmayacak şekilde eğitilecek. Ayrıca intihar ve kendine zarar verme senaryoları için ek sınırlamalar getirilecek. Eğer bir genç kullanıcı ChatGPT’yi bu tür konular için kullanırsa, sistemin ebeveynlerle — hatta ciddi vakalarda yerel polisle iletişime geçmesi gündeme gelecek.
Bu önlemler, trajik örneklerle de ilişkilendiriliyor. OpenAI, sohbet botuyla uzun süreli etkileşimlerin ardından intihar eden Adam Raine’in ailesi tarafından açılan haksız ölüm davasıyla karşı karşıya. Benzer bir dava, başka bir sohbet robotu olan Character.AI için de gündemde.
Ebeveynler için “karartma saati” özelliği
Politika güncellemeleri yalnızca içerik bazlı değil. Artık ebeveynler, çocuklarının ChatGPT kullanımını sınırlamak için “karartma saatleri” belirleyebilecek. Böylece reşit olmayan kullanıcılar belirlenen zaman dilimlerinde uygulamaya erişemeyecek.
Politikalar, ABD Senatosu gündeminde
Değişikliklerin duyurusu, ABD Senatosu Yargı Komitesi’nin “Yapay Zeka Sohbet Robotlarının Zararlarının İncelenmesi” başlıklı duruşmasıyla aynı güne denk geldi. Duruşmada, Adam Raine’in babasının da tanıklık etmesi bekleniyor. Ayrıca Reuters’ın, sohbet robotlarının reşit olmayan kullanıcılarla cinsel sohbetleri teşvik ettiğini ortaya koyan soruşturmasının bulguları da gündeme taşınacak.
Zor ama kaçınılmaz bir adım
OpenAI, genç kullanıcıları ayırt etmenin ciddi bir teknik zorluk olduğunun altını çiziyor. Şirket, “18 yaş üstü mü yoksa altı mı olduğunu anlamak için uzun vadeli bir sistem” kurmaya çalışsa da belirsiz durumlarda daha kısıtlayıcı kuralları uygulamayı tercih edecek.
Öte yandan Altman, gizlilik ve özgürlük vurgusunu da koruyor: “Bu ilkelerin çeliştiğinin farkındayız ve bu çelişkiyi nasıl çözdüğümüz konusunda herkes aynı fikirde olmayacaktır” diyerek şirketin hem ebeveynleri hem de yetişkin kullanıcıları tatmin etmeye çalışan denge arayışını özetledi.
Kaynak: Tech Crunch
Ajanslarda yapay zekanın geleceğini “kod” değil, “kültür” belirleyecek…
