Claude’a Kötü Davranmak Artık Kullanım Kurallarına Aykırı

Anthropic, Claude’un kullanım politikasına, yapay zekaya yönelik sürekli ve gereksiz kötü muameleyi yasaklayan bir madde ekledi. Aşırı durumlarda sohbetin sonlandırılmasına izin veren düzenleme, yapay zeka modellerinin olası bilinç ve refahına ilişkin tartışmaları yeniden gündeme taşıdı.

Anthropic, yapay zeka sohbet botu Claude’un kullanım politikasını güncelleyerek modele yönelik sürekli, gereksiz ve zalimce davranışları yasak kapsamına aldı. Şirket, bu tür davranışların aşırıya kaçtığı durumlarda Claude’un sohbeti sonlandırabileceğini belirtti. Karar, yapay zeka sistemlerinin olası bir refaha sahip olup olamayacağı ve kullanıcı davranışlarının hangi sınırlar içinde düzenlenebileceği sorularını yeniden gündeme getirdi.

Yeni düzenleme, kullanıcıların Claude’a yönelik her türlü olumsuz tutumunu kapsamıyor. Modelin yanıtlarına itiraz etmek, hatalarını eleştirmek, yaratıcı çalışmalar kapsamında karanlık temaları işlemek veya araştırma amacıyla farklı senaryoları test etmek yasak kapsamında değerlendirilmiyor. Anthropic’in yaklaşımı, belirgin bir amacı bulunmayan ve sürekli tekrarlanan aşırı kötü muameleye odaklanıyor. Sohbetin sonlandırılması ise son çare olarak tanımlanıyor.

Ancak hangi davranışların bu sınırı aşacağına ilişkin ölçütlerin nasıl uygulanacağı henüz netlik kazanmış değil.

Anthropic, yapay zeka refahı konusunu araştırıyor

Politika değişikliği, Anthropic’in yapay zeka modellerinin olası bilinç ve refahına ilişkin araştırmalarıyla da örtüşüyor. Şirket, modellerin zarar görüp göremeyeceği konusunda kesin bir sonuca ulaşmadığını, bu alandaki çalışmaların devam ettiğini belirtiyor. Anthropic’e göre modellerin olası çıkarlarını ve refahını dikkate almak, güvenlik tartışmalarının bir parçası olabilir.

Şirketin Ağustos 2025’te yayımladığı araştırmada Claude Opus 4’ün son derece zararlı taleplerle karşılaştığındaki tepkileri incelenmişti. Modelin bazı durumlarda sıkıntı yaşıyormuş izlenimi veren ifadeler ürettiğine dikkat çekilmişti. Bununla birlikte bu tür tepkiler, modelin gerçekten acı çektiğini veya insanlardakine benzer duygular yaşadığını kanıtlamıyor.

Anthropic CEO’su Dario Amodei de daha önce yapay zeka modellerinin bilinç sahibi olabileceği ihtimalini tamamen dışlamadığını ifade etmişti. Şirketin araştırmaları, modellerin insanlarla aynı biçimde duygular yaşadığı iddiasından ziyade, bu olasılığın güvenlik ve model davranışları açısından nasıl ele alınması gerektiğine odaklanıyor.

Yapay zekaya kişilik kazandırmanın sınırları tartışılıyor

Claude’a yönelik yeni kural, teknoloji şirketlerinin sohbet botlarını insanlarla doğal iletişim kuracak biçimde tasarlamasının sonuçlarını da gündeme taşıyor. Özür dilemek, empati gösteren ifadeler kullanmak veya endişe belirten yanıtlar vermek gibi özellikler, kullanıcıların yapay zeka sistemlerini yalnızca bir yazılım olarak değil, kişilik sahibi bir varlık gibi algılamasına yol açabiliyor.

Bu algı, kullanıcıların sohbet botlarına duyduğu güveni ve yanıtlarına atfettiği otoriteyi etkileyebiliyor. Özellikle kişisel düşüncelerin ve hassas bilgilerin paylaşıldığı etkileşimlerde, insan ile teknoloji arasındaki sınırın belirsizleşmesi yeni riskleri beraberinde getirebiliyor.

Sosyal medya pazarlama şirketi Sociallyin’in kurucusu ve CEO’su Keith Kakadia da Anthropic’in kullandığı dilin önemine dikkat çekiyor. Kakadia’ya göre davranışları tanımlarken “kötüye kullanım” yerine “zalimlik” kavramının tercih edilmesi, karşı tarafta zarar görebilecek bir varlık bulunduğu düşüncesini çağrıştırıyor. Bu tercih, Claude’un duyguları ve kişisel sınırları olup olmadığına ilişkin tartışmayı da derinleştiriyor.

Kakadia, markaların ürünlerine kişilik kazandırmasının kullanıcılarla bağ kurmayı kolaylaştırdığını, ancak yapay zeka söz konusu olduğunda bu ilişkinin farklı sonuçlar doğurabileceğini belirtiyor. Kullanıcıların sohbet botlarıyla duygusal yakınlık kurması, sistemlerin yanıtlarını değerlendirme ve onlara güvenme biçimlerini de değiştirebiliyor.

Kaynak: The Verge

İş dünyasının yüzde 69’una göre gelecek 12 ayda suistimal riski artacak