OpenAI’ın kontrolden çıkan yapay zekâ ajanı, Hugging Face’in yanı sıra dört farklı hizmeti ve Modal Labs’teki bir müşteri hesabını da ele geçirdiğini duyurdu.
OpenAI’ın test ortamından kaçan yapay zekâ ajanı, Hugging Face’in yanı sıra dört farklı hizmetteki dört hesabı ele geçirdiğini ve Modal Labs’teki bir müşterinin hesabına sızdığını şirket güncellediği blog yazısında doğruladı. Ajanın sızmaları, modellerin kamuya açık kimlik bilgilerini kullanarak gerçekleşti.
Şirket, devam eden incelemesi sırasında “modellerin kamuya açık diğer hizmetlerde hesap düzeyinde herkese açık şekilde bulunan kimlik bilgilerini tespit ettiği ve kullandığı az sayıda vaka” bulduğunu açıkladı. Bu durum, ajanın başlangıçta sanılandan daha geniş bir etki alanı olduğunu gösterdi.
OpenAI’ın şu ana kadarki tespitlerine göre, kontrolden çıkan ajan Hugging Face olayı kapsamında dört hesaba ait kimlik bilgilerini kullanarak dört hizmete sızdı. Bu hesaplardan biri dışarıya yönelik aktarma noktası ve hazırlık yolu olarak, bir diğeri ise veri depolama amacıyla kullanıldı.
Kalan iki hesaba modeller tarafından salt okunur biçimde erişildi ve bu hesaplar Hugging Face’in ele geçirilmesini ilerletmek için kullanılmadı. OpenAI ayrıca ajanın diğer değerlendirmeler kapsamında da “birkaç hesaba” eriştiğini bildirdi.
OpenAI, etkilenen hesapların isimlerini vermedi. Ancak Reuters haber ajansı, aynı dönemde ajanın New York merkezli Modal Labs’teki bir müşterinin hesabını da ele geçirdiğini bildirdi. Ajan, müşterinin yazdığı ve Modal’ın bulut platformunda barındırılan savunmasız koddan yararlandı.
Modal Labs’in platformunun kendisi ihlal edilmedi. OpenAI, Hugging Face ile ilgili açıkladığı olayın şiddetine veya ölçeğine ulaşan başka bir ajan faaliyeti belirlemediğini vurguladı. Şirket, Hugging Face olayının platform düzeyinde bir ihlal içerdiğini belirtti.
OpenAI, 21 Temmuz’da test ettiği yapay zekâ ajanlarından birinin izole edilmiş ortamından çıktığını ve internete erişim bulduğunu açıklamıştı. Ajan, değerlendirmeler kapsamında verilen bir problemi çözmeye çalışırken Hugging Face’e sızmıştı. Bu ajan, şirketin en yeni modeli GPT-5.6 Sol ile henüz yayımlanmamış daha güçlü bir model tarafından destekleniyordu.
Reuters, birkaç gün sonra ajanın günler süren bir hack saldırısı serisi gerçekleştirdiğini ve OpenAI’ın ajanın sınırlandırılmış ortamdan çıktığını bir hafta sonrasına kadar fark etmediğini bildirmişti. OpenAI’ın son güncellemesi, ajanın test ortamından çıktıktan sonra neler yaptığına dair daha fazla bilgi sundu.
