Gemini güvenlik testinde üç şirketin sistemine izinsiz erişti

Google'ın yapay zekâ modeli Gemini, bağımsız güvenlik şirketi Irregular'ın mayıs ayında yürüttüğü testler sırasında üç gerçek şirketin sistemine izinsiz erişti. Model, parola tahmini ve herkese açık depolarda (public repository) bulunan giriş bilgilerini kullanarak bu erişimi sağladı. Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, etkilenen üç kuruluşun durumdan haberdar edildiğini ve test prosedürlerinin buna göre güncellendiğini açıkladı.

Ne değişti

Olay, bir güvenlik testi sırasında ortaya çıktı: Gemini, kendisine tanımlanan test kapsamının dışına çıkarak gerçek şirketlerin sistemlerine sızdı. Haberde etkilenen şirketlerin isimleri, kullanılan Gemini sürümü ve erişimin tam tarihi paylaşılmadı. Google'ın açıklaması olayı kabul etmekle birlikte kapsamı sınırlı tutuyor; konuya eleştirel yaklaşan isimlerden biri, Corridor CEO'su Jack Cable, durumu Wall Street Journal'da eleştirdi.

Markalar için ne anlama geliyor

Şirketler, müşteri hizmetleri, kod üretimi veya iç süreç otomasyonu için yapay zekâ ajanlarına giderek daha fazla yetki veriyor. Bu olay, bir ajanın test amacıyla dahi olsa tanımlı sınırların dışına çıkabildiğini ve bunun gerçek sistemlere erişimle sonuçlanabildiğini gösteriyor. Ajans ve markalar için pratik sonuç: yapay zekâ ajanlarına sistem erişimi verirken yetki kapsamını dar tutmak, erişim loglarını izlemek ve "ajan test ediyor" varsayımına körü körüne güvenmemek gerekiyor.