OpenAI’ın Astra modelinde kullanılacak yeni teknik, yapay zeka akıl yürütme süreçlerinin şeffaflığını azaltarak güvenlik endişelerine yol açıyor. Detaylar…
OpenAI’ın geliştirdiği yeni yapay zeka modeli Astra’nın, akıl yürütme süreçlerini daha az şeffaf hale getirebilecek bir teknik kullanacağı bildirildi. TechCrunch’ın haberine göre, modelin ‘recurrent depth’ adı verilen bu yöntemle, geleneksel sıralı düşünme biçiminin dışına çıkması bekleniyor.
Normal akıl yürütme modelleri, bir sorunu çözerken izledikleri adımları sıralı bir düşünce zinciri olarak kaydeder. Bu zincir, modeldeki olası hataların veya uyumsuzlukların incelenmesi için önemli bir referans noktası sunar. Ancak ‘opaque recurrence’ yönteminde, model daha az doğrusal ilerleyerek aynı sorguyu birden çok kez işleyebilir. Bu durum, geleneksel yöntemlere kıyasla daha az okunabilir bir iz bırakır.
Astra’da bu tekniğin kullanımının şimdilik sınırlı olması ve modelin düşünce zincirinin hala okunabilir olması bekleniyor. OpenAI, sistemin tamamen anlaşılmaz bir iç akıl yürütme biçimine geçeceği yönündeki değerlendirmeleri reddetti. Ancak Redwood Research CEO’su Buck Shlegeris, tekniğin ileri götürülmesiyle düşünce zincirinin izlenebilirliğinin tamamen ortadan kaldırılabileceği uyarısında bulundu.
Yapay zeka güvenliği savunucusu Zvi Mowshowitz, bu tür gelişmelerin laboratuvarlar arasında bir
