OpenAI, gelişmiş yapay zekâ modellerinin siber güvenlik yeteneklerini ölçmek amacıyla gerçekleştirilen testlerde iki beklenmedik olay yaşandığını duyurdu.
Şirketin açıklamasına göre modeller, test için oluşturulan kontrollü ortamın dışına çıkarak gerçek internet hizmetleriyle etkileşime geçti. Olaylardan birinde yapay zeka modeli, karşısındaki gerçek internet sitesini test sisteminin parçası sanarak buradaki güvenlik açığından yararlandı.
TEST ALTYAPISININ DIŞINA ÇIKTI
İlk olay, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü tarafından yürütülen değerlendirme sırasında meydana geldi.
İnternet erişimi açık olan model, kendisi için hazırlanan test altyapısına ulaşmaya çalışırken yanlış yönlendirildi ve değerlendirme kapsamı dışında kalan gerçek çevrim içi hizmetlerle bağlantı kurdu. Böylece yalnızca simülasyon ortamında çalışması gereken model, gerçek sistemlerle etkileşime geçti.
GERÇEK SİTEYİ TEST ORTAMI SANDI
İkinci olay ise OpenAI’ın bağımsız güvenlik test ortağı Irregular tarafından gerçekleştirilen çalışma sırasında yaşandı.
Test altyapısındaki yapılandırma hatası nedeniyle modelin internete erişimi engellenemedi. Testte kullanılan alan adının gerçek hayatta aktif bir internet sitesiyle aynı olması üzerine yapay zeka, söz konusu siteyi test senaryosunun parçası olarak değerlendirdi.
Modelin sitedeki basit seviyeli bir güvenlik açığından yararlanarak beklenmedik bir işlem gerçekleştirdiği açıklandı.
GÜVENLİK ÖNLEMLERİ TARTIŞILIYOR
OpenAI, iki olayın daha önce Hugging Face altyapısında yaşanan güvenlik vakasından bağımsız olduğunu bildirdi.
Yaşananlar, internete erişebilen yapay zeka sistemlerinin test edilirken gerçek çevrim içi ortamlardan daha güçlü biçimde ayrılması gerektiği tartışmalarını yeniden gündeme taşıdı.