OpenAI’da Güvenlik Tartışması: Eski çalışandan Dikkat çeken Eleştiri

Yapay zeka şirketlerinin hızla gelişen teknoloji karşısında güvenlik yaklaşımı yeniden tartışma konusu olurken, OpenAI’ın eski güvenlik çalışanlarından David Robinson’dan dikkat çeken açıklamalar geldi. Şirkette yaklaşık 3,5 yıl görev yapan Robinson, yapay zeka sistemlerinin geliştirilmesinde güvenlik araştırmalarının ve uzmanlığının yeterince önceliklendirilmediğini söyledi.

Robinson, OpenAI’dan ayrılmasının ardından The Atlantic’te kaleme aldığı “OpenAI’dan Ayrıldım Çünkü Kültürü Bozuk” başlıklı yazısında, başta OpenAI olmak üzere yapay zeka sektöründeki şirketlerin teknolojinin beraberinde getirdiği risklere karşı daha temkinli bir yaklaşım benimsemesi gerektiğini söyledi.

Robinson’a göre yapay zeka sistemleri geliştikçe, bu teknolojilerin geliştirilmesi ve kullanıma sunulması sırasında uygulanan güvenlik standartlarının da aynı ölçüde güçlendirilmesi gerekiyor.

“Deneme yanılma dönemi sona erdi”

Robinson’a göre yapay zeka sistemleri artık çok daha gelişmiş bir seviyeye ulaştı. Bu nedenle şirketlerin sistemleri kullanıma sunduktan sonra ortaya çıkan sorunlara göre önlem alması yeterli olmayabilir.

Eski çalışan, gelişmiş yapay zeka sistemlerinin güvenliği konusunda nükleer enerji ve havacılık sektörlerindeki yaklaşımın örnek alınabileceğini düşünüyor. Bu alanlarda olası sorunların sonuçlarını sınırlandırmak için birden fazla güvenlik katmanı kullanılıyor. Robinson da yapay zeka şirketlerinin benzer şekilde yedekli güvenlik sistemleri oluşturması ve olası riskleri önceden değerlendirmesi gerektiğini savunuyor.

OpenAI’ın geliştirme sürecine eleştiri

Robinson’un eleştirilerinin bir diğer noktası OpenAI’ın ürün geliştirme yöntemi. Eski çalışan, şirketin büyük ölçüde “iteratif dağıtım” olarak adlandırılan bir yöntemle ilerlediğini söylüyor. Bu yöntemde yapay zeka sistemleri kullanıma sunuluyor, ardından ortaya çıkan sorunlar gözlemlenerek güvenlik önlemleri geliştiriliyor.

Robinson ise yapay zeka sistemleri daha güçlü hale geldikçe bu yaklaşımın yeterli olmayabileceğini düşünüyor. Ona göre güvenlik önlemlerinin sistem kullanıma açılmadan önce daha kapsamlı şekilde hazırlanması gerekiyor.

“Bir lansmandan diğerine koşuluyor”

OpenAI’da yaklaşık 3,5 yıl çalışan Robinson, şirketin hazırlık çerçevesinin oluşturulmasına katkı sağladığını ve 12 ileri seviye modelin lansmanına ilişkin güvenlik raporlarını denetlediğini belirtti. Ancak eski çalışan, şirketin sürekli yeni modeller geliştirmeye ve piyasaya sunmaya odaklanmasının güvenlik çalışmalarını zorlaştırdığını savunuyor.

Robinson’a göre OpenAI, bir modelin lansmanından diğerine geçerken sistemlerin taşıdığı riskleri değerlendirmek için gereken zamanı ve dikkati yeterince ayıramıyor.