“Dr. Deyu Meng ve Dr. Jun-Jie Zhang bilgisayar bilimi ve kuantum fiziği alanlarını birleştirerek sinir ağlarının güvenlik açıklarını fizikteki belirsizlik ilkesi üzerinden araştırdı.”
National Science Review’da yayınlanan araştırma, kuantum fiziğinde belirli özellik çiftlerini aynı anda ölçmenin zorluklarını vurgulayan iyi bilinen bir teori olan belirsizlik ilkesinin getirdiği kısıtlamalar ile sinir ağlarının hedefli saldırılara karşı savunmasızlığı arasında bir bağlantı kuruyor. Araştırmacıların kuantumdan esinlenen sinir ağı güvenlik açıkları incelemesine göre, düşmanca saldırılar, hesaplanan gradyanlar ile girdi özelliklerinin hassasiyeti arasındaki değiş tokuştan yararlanıyor. Matematiksel fizikçi olan Dr. Zhang, “Kayıp fonksiyonunun bu girdilere göre gradyanını belirleyerek girdiler için her zaman bir eşlenik değişken tanımlayabiliriz” diyor. “Bu, özellikle öğrenme için bir kayıp fonksiyonu içeren derin sinir ağlarının mimarisi düşünüldüğünde geçerlidir.”
Bu araştırma, sinir ağlarının varsayılan sağlamlığının yeniden değerlendirilmesini ve sınırlamalarının daha derinlemesine anlaşılmasını teşvik etmeyi umuyor. Dr. Zhang ve Prof.Meng, bir sinir ağı modelini düşman saldırılarına maruz bırakarak, modelin doğruluğu ile dayanıklılığı arasında bir uzlaşma olduğunu gözlemledi. Elde ettikleri sonuçlar, sinir ağlarının teorik olarak kuantum sistemlerine benzediğini, her iki eşlenik değişkeni de aynı anda, yani girdi özelliği ve kayıp fonksiyonunun gradyanını her zaman doğru bir şekilde çözemediklerini ve bunun da doğal bir zayıflık olabileceğini göstermektedir. Bu farkındalık, karmaşık saldırılara karşı yeni savunmalar oluşturmak için çok önemlidir.
Makalenin sorumlu yazarı ve makine öğrenimi uzmanı Prof. Meng, “Bu araştırmanın geniş etkileri var” diyor.“Sinir ağları temel sistemlerde giderek daha kritik bir rol oynadıkça, bunların güvenliğini anlamak ve güçlendirmek zorunlu hale geliyor. Bu disiplinler arası araştırma, bu karmaşık ‘kara kutu’ sistemlerinin gizemini çözmek için yeni bir bakış açısı sunarak, potansiyel olarak daha güvenli ve yorumlanabilir yapay zeka modellerinin tasarımı konusunda önümüzü aydınlatıyor.”
Kaynak : techxplore.com/news/2024-05-scientists-uncover-quantum-vulnerabilities-neural.html Derleyen : A.SEMİH SÜMER
