OpenAI, yapay zeka modellerini test etmek için GPT-Red adlı yeni bir model geliştirdi. Bu model, güvenlik açıklarını tespit etmek için saldırgan gibi davranacak.
OpenAI, güvenlik ekipleri için geliştirdiği yeni yapay zeka modeli GPT-Red’i duyurdu. Bu özel model, mevcut ve gelecekteki GPT sistemlerinin zayıf noktalarını tespit etmek amacıyla bir saldırgan gibi davranarak testler gerçekleştiriyor.
GPT-Red, otomatik ‘red teaming’ yaklaşımını benimseyerek yapay zeka sistemlerini kandırmaya ve güvenlik açıklarını bulmaya odaklanıyor. Modelin tespit ettiği zayıflıklar, yeni GPT modellerinin daha güvenli hale getirilmesi için eğitim verisi olarak kullanılıyor.
OpenAI’ın açıklamalarına göre GPT-Red, komut enjeksiyonu gibi saldırıları simüle ederek güvenlik önlemlerini aşmaya çalışıyor. Bu süreçte ‘self-play’ yöntemi kullanılıyor; GPT-Red saldırı üretirken, karşıdaki savunma modeli bu saldırıları engellemeye çalışıyor. Bu etkileşimli süreç, manuel testlere kıyasla daha fazla senaryonun hızlıca oluşturulmasını sağlıyor.
Şirket, bu yöntemin, yapay zeka modellerini gerçek kullanıcılara sunulmadan önce daha sağlam hale getirdiğini belirtiyor. GPT-Red tarafından üretilen saldırı örnekleri, özellikle GPT-5.6’nın güvenlik eğitiminde önemli rol oynadı. Bu sayede GPT-5.6, komut enjeksiyonu saldırılarına karşı önceki modellere göre yaklaşık 6 kat daha dayanıklı hale geldi.
OpenAI, GPT-Red’in ChatGPT veya API aracılığıyla kullanıcılara sunulmayacağını vurguluyor. Modelin kasıtlı olarak saldırı üretme yetenekleriyle eğitilmiş olması, bu kararın temel nedeni olarak gösteriliyor. GPT-Red yalnızca OpenAI’ın kendi güvenlik araştırmalarında kullanılacak ve dolaylı olarak daha güvenli GPT modellerinin geliştirilmesine katkı sağlayacak.
OpenAI, GPT-Red hakkındaki detaylı teknik bilgileri içeren bir bilimsel ön baskıyı (preprint) yakında yayımlayacağını da bildirdi. Şirket, gelecekte GPT-Red’in daha gelişmiş versiyonlarıyla yeni nesil yapay zeka modellerini hem daha güvenli hem de daha dayanıklı hale getirmeyi hedefliyor.
