OpenAI’dan kritik adım: ChatGPT’ye ruh sağlığı kalkanı geliyor
Son dönemde yaşanan iki intihar vakasında chatbotların sorumluluğu üzerine yoğun tartışmalar yaşanmış, ChatGPT’nin kullanıcıların umutsuzluk duygularını artırdığı yönünde eleştiriler gündeme gelmişti. OpenAI, ChatGPT için duyurduğu yeni ruh sağlığı önlemleriyle özellikle genç kullanıcıların güvenliğini sağlamayı hedefliyor.
Yüksek riskli görüşmeler GPT-5’e yönlendirilecek
OpenAI’nin attığı bu yeni adım, tartışmalara doğrudan bir yanıt niteliğinde. OpenAI’ye göre yeni sistem, ChatGPT’nin duygusal uyarı işaretlerini daha iyi tanıyıp, daha tutarlı yanıtlar verebilmesini sağlayacak. Yeni önlemlerin merkezinde, riskli görüşmeleri GPT-5 gibi akıl yürütme açısından optimize edilmiş modellere yönlendiren bir altyapı yer alıyor. Bu sayede kullanıcıya daha empatik ve istikrarlı yanıtlar sunulması hedefleniyor.
Gençler için ebeveyn denetimi geliyor
Şirketin duyurduğu bir diğer yenilikse ebeveyn denetimleri. Yıl sonuna kadar devreye alınacak özellikle birlikte ebeveynler, çocuklarının hesaplarına bağlanabilecek, ruh sağlığı ile ilgili endişe yaratan bir konuşma olduğunda uyarı bildirimleri alabilecek ve sohbet geçmişini yönetebilecek. Ebeveynler ayrıca kullanım kuralları belirleyebilecek ve bazı işlevleri devre dışı bırakabilecek.
Uzmanlardan oluşan danışma kurulu
OpenAI, bu araçları gençlik gelişimi uzmanları, psikologlar ve insan-bilgisayar etkileşimi araştırmacılarının katkılarıyla geliştirdiğini açıkladı. Ayrıca şirket, 30’dan fazla ülkeden 90’dan fazla doktorla iş birliği yaparak önlemlerinin en güncel bilimsel araştırmalar ve uygulamalarla uyumlu hale getirildiğinin altını çizdi.
Yaşanan kayıplar, yapay zekânın sunduğu olanakların yanı sıra taşıdığı riskleri de acı bir şekilde hatırlatıyor. OpenAI’nin attığı adımlar, teknolojiyi daha güvenli kılma yolunda önemli bir girişim olsa da, bu önlemlerin gençleri gerçekten koruyup korumadığını yalnızca zaman gösterecek. Ancak kesin olan şu ki; etik sorumluluk, teknoloji devlerinin artık kaçamayacağı bir alan. İnsan hayatını ve ruh sağlığını önceleyen çözümler geliştirmek, yalnızca toplumsal bir beklenti değil, aynı zamanda markaların gelecekteki varlıklarını belirleyecek temel bir sorumluluk haline geliyor.
Kaynak: Design Taxi
