Yapay zekayı geliştirenler, yakınlarına “uzak durun” diyor!
Yapay zeka çağının ortasında, teknolojiyi geliştirenlerin bu araçlara temkinli yaklaşması dikkat çekiyor. Guardian’ın haberine göre, sektörde çalışan birçok uzman, ailesine ve yakın çevresine yapay zeka uygulamalarından uzak durmalarını tavsiye ediyor. Bu uyarılar, “yapay zekaya en az güvenenlerin onu en iyi tanıyanlar olduğu” tespitini de güçlendiriyor.
Sektör çalışanlarının ortak kaygısı, şirketlerin “hız ve ölçek” odaklı rekabetinin güvenlik gerekliliklerini gölgede bırakması. Düşük kaliteli veri kullanımı ve aceleye getirilen geliştirme süreçleri, modellerin hatalı, yanlı ve hatta riskli çıktılar üretmesine zemin hazırlıyor. Amazon’un Mechanical Turk (MTurk) platformu ile Google’ın arama kalitesi ekiplerinde görev yapan çalışanlar, modellerin hâlâ “halüsinasyon” olarak bilinen yanlış bilgi üretme sorunuyla mücadele ettiğini vurguluyor. Özellikle siyasi ve tarihsel konularda kritik hatalar ortaya çıkabiliyor.
Bir Google çalışanı, eleştirel düşünme becerisi gelişmeden bir çocuğun yapay zeka sohbet botlarını kullanmasını “riskli” bulduğunu belirterek 10 yaşındaki kızına bu teknolojiyi yasakladığını ifade ediyor. Bir başka çalışan ise Google’ın Filistin tarihiyle ilgili soruları yanıtsız bırakan modellerinin; aynı soruları İsrail tarihi için sorulduğunda kapsamlı bilgiler sunabilmesine, “Durumu yöneticilere bildirdik ama kimse önemsemedi” diyerek dikkat çekiyor.
Amazon Mechanical Turk (MTurk) çalışanı Krista Pawloski’nin deneyimi de benzer nitelikte. Bir dönem tweet’lerdeki ırkçı içerikleri tespit etmekle görevlendirildiğini söyleyen Pawloski, yapay zeka destekli araçların pek çok uygunsuz içeriği atladığını ifade ediyor. Yıllar içinde sistemlerin iç işleyişine tanıklık ettikten sonra üretken yapay zeka kullanmayı bırakmış ve ailesine de kullanmamalarını tavsiye etmiş.
DAIR’den Adio Dinika ise sektördeki hız baskısının, önyargıların ve teknik tavizlerin yapay zekanın “kırılgan” doğasını görünür kıldığını söylüyor: “Yapay zekaya en çok hayran olanlar genelde onu en az tanıyanlar.”
Kaynak: Independent Türkçe
Türkiye’de her 6 şirketten biri yapay zekayı aktif olarak kullanıyor
