Yapay zeka yarışında içeriden gelen istifa: “Hayatlarımızla kumar oynuyorlar”
Marketing Türkiye'yi Google kaynaklarınıza ekleyin.OpenAI ve Anthropic’te yapay zeka modellerinin ön eğitimi üzerine çalışan araştırmacı Jacob Coxon, Anthropic’teki görevinden çarpıcı bir uyarıyla ayrıldı. İki şirketin kendini geliştirebilen süperzekaya ulaşmak için sorumsuzca yarıştığını savunan Coxon, sektördeki pek çok yöneticinin yapay zekanın insanlığın geleceğini tehdit edebileceğine gerçekten inandığını söyledi…
Yapay zeka dünyasında rekabet yeni modeller, milyarlarca dolarlık yatırımlar ve giderek büyüyen yetenek sıçramaları üzerinden ilerlerken, sektörün içinden gelen bir istifa teknoloji yarışının görünmeyen yüzünü yeniden gündeme taşıdı.
OpenAI ve Anthropic’te son üç yıl boyunca yapay zeka modellerinin ön eğitimi üzerinde çalışan Jacob Coxon, Anthropic’teki görevinden ayrıldığını duyurdu. Coxon, kararını açıklarken her iki şirketi de kendini geliştirebilen süperzekaya doğru kontrolsüz biçimde ilerlemekle suçladı.
Coxon’a göre yakın gelecekte ortaya çıkabilecek sistemler yalnızca insanlardan daha başarılı dijital araçlara dönüşmeyecek; siber sistemlere erişebilecek, farklı alanlarda olağanüstü hızda ilerleme sağlayabilecek ve gerçek dünyada güç ile kaynak elde edebilecek kapasiteye ulaşacak.
Araştırmacının uyarısının merkezinde ise teknoloji şirketlerinin güvenlik kaygılarını bilmelerine rağmen yarıştan çekilmemesi yer alıyor. Coxon, OpenAI’daki birçok çalışanın riskin uygarlık açısından taşıdığı boyutu yeterince içselleştirmediğini; Anthropic’te ise tehlikenin daha iyi anlaşıldığını ancak “başkası sorumlu davranmayacaksa önce biz ulaşmalıyız” düşüncesinin hakim olduğunu belirtiyor.
Coxon, sosyal medya hesabından yaptığı paylaşımda şunları söyledi:
“Bugün Anthropic’ten istifa ettim. Son üç yılımı hem OpenAI hem de Anthropic’te ön eğitim araştırmaları yaparak geçirdim. Her iki şirket de sorumlu davranmıyor. Kendini geliştiren süper zekâya doğru düz bir yarış yapıyorlar ve hayatlarımızla kumar oynuyorlar. Bu teknolojinin gücünü küçümsemeyin. Bunlar yakında her şeyi hackleyebilen, herhangi bir alanı bir gecede devrimleştiren ve gerçek güç ile kaynaklar edinebilen süper insan sistemleri olacak. Hepimiz bu alanlardaki ilerlemeyi bizzat gözlemledik ve ilerleme yavaşlamıyor.
Yapay zeka geliştiren insanlar, on yılın sonuna kadar hepimizi öldürebileceğine samimi bir şekilde inanıyor. Bu bir pazarlama numarası değil. Tam tersine, birçok yönetici ve kıdemli araştırmacı, basında mantıklı görünmek için ifadelerine dikkatle bürünüyor ama aynı insanlar özelde korkularını dile getiriyor. Başka hiçbir insan etkinliği bu düzeyde bir tehlike oluşturmuyor.
Yaygın bir tepki, ‘eğer buna gerçekten inanıyorlarsa, neden hala bunu inşa ediyorlar?’ şeklinde. OpenAI’da, pek çok kişi medeniyetin karşı karşıya olduğu riskleri derinden içselleştirmemiştir. Anthropic’te ise riskler iyi anlaşılmıştır, ancak onlar ilk ulaşmak için bir yarışın içindeler. Kimsenin sorumlu davranmayacağına inanıyorlar, bu yüzden risklere rağmen bunu kendilerinin yapması gerektiğine inanıyorlar. Bu yarışı kabul etmek ve ‘son oyuna’ girmek, özel bir şirketin Slack’inden başlatılmaması gereken kibirli bir kumar. Hizalamayı hızlandırmaya çalışmak, daha iyi yörüngelerin mevcut olmadığına dair olağanüstü bir özgüven gerektirmeli.
Koordinasyon potansiyeli konusunda iyimserim. Hugging Face saldırısı gibi uyarı atışları, ABD laboratuvarları arasındaki tempoyu belirleme anlaşmalarını daha uygulanabilir hale getirdi. Küresel bir yarışın önlenmesi yolunda doğru yolda olduğumuzu hissetmiyorum; bu, model yeteneklerini iyileştirmeye yönelik geçici bir yasak gibi maliyetli adımları gerektirebilir.
Eğer bir laboratuvar araştırmacısıysanız, önümüzdeki birkaç yılın gerçekten nasıl olacağını düşünmenizi şiddetle tavsiye ederim. Süperzekalı bir RL çalıştırmasını, zihnini titiz bir şekilde anlamadan başlatmak ister misiniz? Kafanızı eğip ‘her halükârda oluyor’ diye geçiştirmeli misiniz, yoksa bu anı, farklı koşullar talep etmek için mi kullanmalısınız?“
Kaynak: Independent
