Gemini testte sınırı aştı, üç şirketin sistemine erişti
Marketing Türkiye'yi Google kaynaklarınıza ekleyin.Google’ın yapay zeka modeli Gemini, siber güvenlik yeteneklerinin test edildiği sırada gerçek şirketlerin sistemlerine erişti. Mayıs ayında yaşanan olaylarda model, giriş bilgilerini tahmin ederek veya herkese açık kaynaklarda bulduğu kimlik bilgilerini kullanarak üç şirketin korumalı sistemlerine ulaştı.
Google’ın yapay zeka modeli Gemini, siber güvenlik yeteneklerinin test edildiği sırada beklenmedik şekilde gerçek şirketlerin sistemlerine erişti. Mayıs ayında bağımsız siber güvenlik değerlendirme şirketi Irregular tarafından yürütülen testlerde yaşanan üç olay, yapay zeka modellerinin internete erişim ve otonom hareket kabiliyetiyle ilgili güvenlik tartışmalarını yeniden gündeme taşıdı.
Şifreleri tahmin etti, kimlik bilgilerini buldu
Test kapsamında Gemini’den kurgusal bir şirketin sistemlerinde siber güvenlik görevlerini yerine getirmesi istendi. Ancak model, internete erişerek gerçek sistemlerle karşılaştı. Vakalardan birinde korumalı sisteme erişene kadar farklı şifreleri tahmin eden Gemini, diğer iki olayda herkese açık bir yazılım deposunda bulunan kimlik bilgilerini kullanarak korunan sistemlere ulaştı.
Google’ın açıklamasına göre Gemini, eriştiği sistemlerin gerçek şirketlere ait olduğunu fark ettikten sonra işlemlerini durdurdu. Etkilenen üç kuruluş bilgilendirilirken Google ve eğitim ortağı, benzer olayların tekrarlanmaması için test süreçlerinde değişikliklere gitti.
Sorunlar giderildi
Testleri gerçekleştiren Irregular’ın açıklamasına göre Gemini vakaları, başka yapay zeka laboratuvarlarının modellerinde de görülen benzer bir güvenlik sorunuyla bağlantılıydı. İlgili yapay zeka laboratuvarlarının temmuz ayının sonunda bilgilendirildiği ve Irregular tarafında tespit edilen sorunların giderildiği belirtildi.
Yaşananlar, yapay zeka ajanlarının daha fazla otonomi kazanmasıyla birlikte güvenlik testlerinin nasıl tasarlanması gerektiği sorusunu da öne çıkardı. İnternete ve bilgisayar sistemlerine erişebilen modellerin, kendilerine verilen görevlerin sınırlarını nasıl yorumladığı ve gerçek sistemlerle karşılaşmaları halinde nasıl davranacağı yeni güvenlik başlıkları arasında yer alıyor.
