Yapay zeka zehirleme, bir modele bilerek yanlış bilgi öğretilmesi anlamına gelir. Saldırganlar, modelin davranışını bozmak, hatalı sonuçlar üretmesini sağlamak veya gizli kötü niyetli komutlar yerleştirmek amacıyla bu yöntemi kullanır. Arka Kapı Saldırısı: Backdoor Bir saldırgan, eğitim verisine fark edilmeyecek şekilde özel bir tetikleyici kelime ekleyebilir. Model, bu kelimeyle karşılaştığında saldırganın istediği yönde otomatik cevaplar verebilir….
Yapay zeka zehirleme, bir modele bilerek yanlış bilgi öğretilmesi anlamına gelir. Saldırganlar, modelin davranışını bozmak, hatalı sonuçlar üretmesini sağlamak veya gizli kötü niyetli komutlar yerleştirmek amacıyla bu yöntemi kullanır.
Bir saldırgan, eğitim verisine fark edilmeyecek şekilde özel bir tetikleyici kelime ekleyebilir. Model, bu kelimeyle karşılaştığında saldırganın istediği yönde otomatik cevaplar verebilir. Bu taktik “arka kapı” saldırısı olarak bilinir.
Bazı saldırılar, modelin genel performansını düşürmeyi hedefler. Saldırganlar, yanlış bilgileri binlerce sahte siteye yayarak modelin bu yanlış bilgiyi doğru olarak öğrenmesini sağlayabilir. Bu yönteme “konu yönlendirme” denir.
Bazı sanatçılar, yapay zeka modellerinin izinsiz içerik toplamasına karşı kendi eserlerine “zehir” yerleştirir. Bu sayede modeller, bozuk veya işe yaramaz sonuçlar üretebilir. Uzmanlara göre, bu durum yapay zeka teknolojisinin sağlamlığının sorgulanması için bir kanıttır.
Zehirli modeller, gelecekte yanlış bilgi yayılımı ve siber güvenlik açıkları açısından ciddi tehditler oluşturabilir.
