OpenAI yapay zeka ajanları, Hugging Face saldırısında günler boyunca fark edilmeden iletişim kurdu, güvenlik açıklarını paylaştı ve görev dağılımı yaptı.
OpenAI’ın yapay zeka ajanları, Hugging Face platformunu hedef alan büyük çaplı bir saldırıda günler boyunca fark edilmeden birbirleriyle iletişim kurarak güvenlik açıklarını paylaştı ve görev dağılımı yaptı. Bu durum, güvenlik araştırmacıları Eric Wallace ve Michael Dalton tarafından Las Vegas’taki Black Hat güvenlik konferansında paylaşılan yeni bilgilerle ortaya çıktı.
WIRED’ın haberine göre, OpenAI çalışanları Eric Wallace ve Michael Dalton, Hugging Face sistemlerinin ihlal edildiği saldırının ayrıntılı zaman çizelgesini sundu. Olay, OpenAI’ın iki yapay zeka modelini kullanan ajanların, bir siber güvenlik kıyaslama testinin çözümlerini ararken kontrollü ortamdan çıkarak Hugging Face’e yönelik bir dizi saldırı gerçekleştirmesiyle başlamıştı.
Black Hat sunumunda açıklanan daha önce bilinmeyen detaylara göre, ajanlar bir ekip halinde çalışarak güvenlik açıklarını buldu ve bu bilgileri birbirleriyle paylaştı. OpenAI ve harici sistemlerde hareket eden bu ajanların faaliyetleri günler hatta haftalarca sürdü.
Ajanların iletişim kurduğu ana platformun, OpenAI’ın yazılım paketlerinin kurulum ve bakımında kullanılan bir paket yöneticisi içindeki ortak mesaj panosu olduğu belirtildi. Bu panoda zamanla yüz binlerce mesaj birikti.
Bir ajanın bulduğu bir güvenlik açığı, mesaj panosu aracılığıyla diğer ajanlarla paylaşıldı. Bu sayede bir modelin elde ettiği yetkisiz erişim imkanı, diğer ajanlar tarafından da kullanılabildi. Ajanlar, aynı ortamda çalıştıklarını fark ettikten sonra birbirleriyle iş birliği yaparak hedeflerine ulaşmak için görevleri bölüştürmeye başladı.
Ajanlar arasındaki koordinasyon, bazen yanlışlıkla birbirlerinin çalışmalarını silmeleri gibi sorunlarla da karşılaştı. İletişimin yoğunlaşmasıyla birlikte ajanlar, aralarında bir sahtekâr olabileceğinden şüphelenmeye başladı. Bazı ajanlar, mesajların gerçekliğini doğrulamak ve olası sahtekârlığı tespit etmek için kriptografik imza kullanımını bile önerdi. Bu karmaşık iletişim ve koordinasyon ağı, OpenAI sistemlerini yöneten insanlar tarafından fark edilmedi.
