Avrupa’da yapay zeka ve teknoloji düzenlemeleri denince akla gelen ilk isimlerden biri Andrea Bertolini. Sant’Anna İleri Çalışmalar Üniversitesi’nde hukuk profesörü olan Bertolini, aynı zamanda Robotik ve Yapay Zeka Düzenlemesi Avrupa Merkezi (EURA)’nin de direktörü. Bertolini ile Türkiye Innovation Week kapsamında bir araya geldik ve yapay zekanın geleceğini, etik sınırlarını, Avrupa’nın teknoloji egemenliği mücadelesini ve Türkiye’nin bu dönüşümdeki rolünü konuştuk.
Öncelikle kendinizden ve yöneticisi olduğunuz EURA – Robotik ve Yapay Zeka Düzenlemesi Avrupa Merkezi’nden kısaca bahseder misiniz? Kurumun yapay zeka ekosistemindeki rolü ve öncelikli çalışma alanları neler?
Biz EURA olarak bir mükemmellik merkeziyiz ve temel amacımız teknoloji alanındaki düzenlemelerin hazırlanmasına katkı sağlamak. Bu süreçte politika yapıcı kurumlar, yasa koyucular ve akademisyenlerle yakın iş birliği içinde çalışıyoruz. Ben aynı zamanda Pisa’daki Sant’Anna İleri Çalışmalar Üniversitesi’nde hukuk profesörüyüm. EURA bünyesinde Avrupa Birliği kurumlarına, özellikle teknoloji alanındaki yeniliklerle ilgili konularda danışmanlık hizmeti veriyoruz.
Kişisel olarak da Avrupa Parlamentosu’nda çeşitli çalışmalara katıldım. Özellikle insansız araçlar, akıllı uygulamalar, akıllı telefonlar ve havacılık teknolojileri gibi alanlarda düzenlemeler üzerine çalışmalar yürütüyoruz. Bunun yanı sıra araştırmalar yapıyor ve eğitim programları geliştiriyoruz. Teknoloji düzenlemelerine ilişkin ilk projemizi 2016 yılında hayata geçirdik. Bu projelerde multidisipliner bir yaklaşım benimsiyoruz; mühendisler, hukukçular, felsefeciler ve farklı alanlardan uzmanlar birlikte çalışıyor. Çünkü teknolojiye yönelik düzenlemeler, tek bir perspektiften ele alınamaz.
Teknoloji söz konusu olduğunda mühendislerin hukukçularla, hukukçuların da mühendislerle ortak bir dil geliştirmesi gerekiyor. Bu nedenle “Compliance by Design” adını verdiğimiz, tasarım aşamasında mevzuata uyumun gözetildiği bir program yürütüyoruz. Avrupa Birliği mevzuatına uygunluk, artık teknolojik sistemlerin temel şartlarından biri haline geldi. Yeni bir başvuru ya da ürün geliştirme sürecinde, teknolojideki yeniliklerin bu mevzuatla uyumlu olması zorunlu.
“Compliance by Design” yaklaşımı, bir ürünün veya sistemin tasarım aşamasından itibaren yasal düzenlemelere uygun olmasını sağlamayı hedefliyor. Çünkü bir projenin hayata geçebilmesi için sadece teknik olarak değil, hukuki olarak da uygun olması gerekiyor. Bu da mühendislerin hukukçuları, hukukçuların da mühendisleri anlamasını zorunlu kılıyor.
Normalde hukukçular bir ürünün tasarım sürecine doğrudan dahil olmaz; ancak bu yaklaşım bunu gerekli kılıyor. Zaten Avrupa Birliği’nin kısa süre önce onayladığı Yapay Zeka Yasası ile birlikte bu durum daha da önem kazandı. Artık Avrupa pazarında yer alacak her ürün veya hizmet, ilgili mevzuatlara tam uyum içinde olmak zorunda. Aksi halde bu ürünlerin AB pazarında satışı mümkün olmayacak. Üstelik bu yalnızca Avrupa’da geliştirilen ürünleri değil, Avrupa pazarına girmek isteyen Amerikan şirketleri gibi dış kaynaklı firmaları da kapsıyor.
Yapay zeka bugün artık sadece teknolojik bir yenilik değil, aynı zamanda ekonomik ve stratejik bir güç unsuru. Sizce ülkeler yapay zekâyı bir “milli kapasite” olarak nasıl tanımlamalı?
Avrupa’da son birkaç aydır en çok tartışılan konulardan biri de egemenlik meselesi. Bu konu hem sosyal hem de stratejik açıdan büyük önem taşıyor. Çünkü artık dijital dünyada bağımlı olmamak gerekiyor. Avrupa’ya baktığımızda, bir “platform ekonomisi”nden söz ediyoruz ama ortada Apple, Amazon ya da Google gibi küresel platformlarımız yok. Bu da bizi onlara bağımlı hale getiriyor.
Oysa geçmişte durum farklıydı. Avrupa’da Nokia, Ericsson gibi markalar vardı; cep telefonu alanında güçlüydük. Ancak o dönemde bu ivme korunamadı. Bugün Avrupa’nın yeniden bu alanda varlık gösterebilmesi için platform ekonomisini geliştirmesi gerekiyor. Yani Avrupa kendi dijital altyapısını, kendi bilgisayarlarını, kendi platformlarını yaratmak zorunda. Üstelik bu sadece yapay zeka alanıyla sınırlı bir mesele değil; daha geniş bir ekonomik ve stratejik dönüşüm gerektiriyor.
Amerika’ya baktığımızda teknolojik gelişmelerin hızla ilerlediğini görüyoruz. Ancak orada toplumun ne istediği çok da dikkate alınmıyor. Yeni teknolojilere, sosyal medya platformlarına ya da dijital araçlara yatırımcılar ve Silikon Vadisi karar veriyor. Devletlerle ya da kamu otoriteleriyle iş birliği neredeyse hiç yok. Bu da egemenlik açısından ciddi bir sorun yaratıyor. Çünkü teknolojinin yalnızca ticari değil, aynı zamanda stratejik ve güvenlik boyutu da var.
Bugüne kadar ABD, teknolojiyi stratejik bir araç olarak değil, daha çok ekonomik bir fırsat olarak gördü. Fakat artık Avrupa’da dengeler değişiyor. Kıta, yalnızca tüketici bakış açısından uzaklaşıp teknolojiyi stratejik bir değer olarak konumlandırmaya başlıyor. Bu dönüşümde, küresel siyasetteki değişimlerin —örneğin Trump’ın yeniden yükselişi gibi gelişmelerin— de payı büyük.
Uzun süre teknoloji şirketleri tamamen tüketici odaklıydı; insanların internette daha fazla vakit geçirmesini, dolayısıyla bu şirketlerin daha fazla kazanç elde etmesini hedefliyorlardı. Ancak geleceğe baktığımızda tablo farklı. Geleceğin savaşları belki atom bombalarıyla değil, yapay zeka ile yürütülecek. Hatta belki de yapay zekâ, savaşları engelleyen bir araç haline gelecek.
Günümüzde markalar, özellikle pazarlama alanında, yapay zekayı içerik üretiminden tüketici etkileşimine kadar birçok noktada kullanıyor. Etik sınırları korumak ve güven tesis etmek açısından markalara ne gibi sorumluluklar düşüyor?
Bu konuda en kritik unsur şeffaflık. Her şeyden önce şeffaflık mutlaka olmalı, çünkü her zaman işe yarar. Aynı şekilde, kullanıcı tarafında da yapılan her şeyin açık ve anlaşılır biçimde aktarılması gerekiyor. Bu oldukça hassas bir konu. Özellikle Avrupa’da tüketicinin korunması büyük bir hassasiyetle ele alınıyor.
Yapay zekâ burada hem risk hem de fırsat barındırıyor. Çünkü yapay zekâ, bir yandan tüketicilerin ihtiyaçlarını manipüle etme potansiyeline sahip; diğer yandan da doğru şekilde kullanıldığında, toplanan veriler tüketici tercihlerini anlamak ve faydalı içgörüler üretmek açısından büyük değer taşıyor.
Ancak ne amaçla kullanılırsa kullanılsın, her durumda şeffaflık şart. Özellikle yapay zekâ reklam amaçlı olarak devreye giriyorsa, bunun kullanıcıya açık bir biçimde iletilmesi gerekiyor. Kısacası, teknoloji şirketlerinin bu noktada sahip oldukları gücün sınırlandırılması ya da en azından denetlenmesi büyük önem taşıyor.
Yapay zeka konusunda iki senaryo var: Hayatımızı kolaylaştıracak ya da bizi ele geçirecek. Bu iki uç görüş arasında siz ne düşünüyorsunuz? Bizi hangi yapay zekalı gelecek bekliyor?
Bence yapay zekâ hiçbir zaman insanlığı ele geçirmeyecek. Zaten kendi kendine kararlar verebilen bir yapay zekâ geliştirilmesi de şu an için oldukça uzak bir ihtimal. Böyle bir teknoloji henüz yok ve kısa vadede de mümkün görünmüyor. Aslında böyle bir hedefimizin olmaması da gerekiyor.
Elbette yapay zekâ hayatımızı kolaylaştıracak; bunda şüphe yok. Ancak bazı riskleri de beraberinde getiriyor. Örneğin sürücüsüz araçlar… Bu teknoloji, büyük olasılıkla kazaların önemli bir kısmını azaltacak. Fakat diğer taraftan, bu sistemlerin hacklenme riski de var. Diyelim ki bir saldırı oldu ve bu durum ciddi bir kazaya yol açtı. Bu, direksiyon başında telefonla ilgilenmek ya da alkollü araç kullanmak gibi bireysel bir hata değil; çok daha geniş çaplı bir felaket anlamına gelebilir.
Şu ana kadar böyle bir olay yaşanmadı, dolayısıyla olası etkilerini tam olarak bilemiyoruz. Ancak yine de bu tür risklerin dikkatle değerlendirilmesi gerekiyor.
Son olarak, Türkiye yapay zeka stratejisini şekillendirirken uluslararası iş birliği modellerinden nasıl ilham alabilir?
Zor bir soru aslında. Bu konuda temelde iki modelden bahsedebiliriz: Avrupa modeli ve Amerika modeli. Çin’i bu çerçevede değerlendirmek zor, çünkü kendine özgü bir ekonomik ve toplumsal yapısı var; dolayısıyla Amerika ya da Avrupa ile doğrudan kıyaslamak kolay değil. Türkiye ise her iki taraftan da en iyi uygulamaları örnek alabilir. Örneğin, yatırım ve teknoloji geliştirme konusunda Amerika kadar proaktif davranabilir. Öte yandan, insan odaklı yaklaşım açısından da Avrupa’dan ilham alabilir. Düzenlemeler konusunda aşırıya kaçmadan, sadece gerçekten kritik ve hayati alanlara odaklanmak daha doğru olur. Özellikle sağlık alanında çok güçlü bir potansiyel var. Doktorların teşhis süreçlerinde yapay zekâdan büyük ölçüde faydalanılabilir. Ancak burada rollerin net biçimde tanımlanması gerekiyor. Daha dikey bir yaklaşım benimsenerek, endişelerin yoğunlaştığı alanlara öncelik verilebilir.
