Araştırmacılar, yeni bir teoriye göre artık rastgele karmaşıklığa sahip sinir ağlarının karmaşık yapıya sahip veriler üzerinde tanıma görevlerini yerine getirip getiremeyeceğini değerlendirebilir.
Beynimiz her gün binlerce duyusal bilgiyi işler ve bunlar arasında ayrım yapar. Günümüzde mevcut olan en iyi yapay zeka modelleri de benzer becerilere sahiptir. Örneğin, görsel korteksin katmanlı organizasyonu, nesne algılama ve kategorizasyon için kullanılan derin konvolüsyonel sinir ağları için ilham kaynağı olmaktadır. Bununla birlikte, araştırmacılar biyolojik ya da sentetik zeka sistemlerinin bu tanıma yeteneğine nasıl ulaştığını matematiksel olarak tam olarak kavramak için hala çalışmaktadır.
Biyolojik ve sentetik sinir ağlarındaki nesnelerin geometrik temsili ile ağların sınıflandırma görevlerindeki performansı arasındaki ilişkinin daha kapsamlı bir açıklaması, New York’taki Flatiron Enstitüsü’nden SueYeon Chung ve meslektaşları tarafından yapıldı. Araştırmacılar, teorilerinin keyfi olarak karmaşık bir sinir ağının performans kapasitesini tam olarak tahmin edebileceğini gösteriyor ki bu, önceki yaklaşımların ele almakta zorlandığı bir zorluk.
Beyindeki biyolojik nöronların karmaşık yolları, sinir ağları tarafından kabaca tanımlanır. Sinapslar veya nöron çiftleri arasındaki bağlantılar aracılığıyla birbirleriyle iletişim kuran çok düzenli nöronlardan oluşurlar. Bir ağ belirli bir görevi yerine getirmek üzere eğitildiğinde, sinaptik bağlantıların gücü değişir.
Nöron grupları bir görev boyunca çok sayıda diğer nörondan girdi alır ve aktiviteleri önceden belirlenmiş bir eşiğin üzerine çıktığında harekete geçerler. Her nöronun farklı bir boyuta karşılık geldiği yüksek boyutlu bir durum uzayında bir nokta, bu ateşlemeden kaynaklanan aktivite modelini tanımlamak için kullanılabilir. Bu durum uzayında bir “manifold” temsili, her biri belirli bir girdiyle ilişkili olan bir dizi faaliyet modelinden oluşur. Bir sinir ağındaki bilgi dağılımı, manifold temsillerinin geometrik özelliklerini etkiler ve ağı belirli bir görev için eğitmek için kullanılan stratejiler, manifold temsillerinin zaman içinde nasıl geliştiği üzerinde bir etkiye sahiptir.
Bir ağın değişmez nesne tanıma gibi görevleri yerine getirme kabiliyeti de aynı şekilde manifoldlarının geometrileri ile sınırlıdır. Chung ve farklı bir meslektaş ekibi, bu sınırları anlamak için daha önceki bir girişimde, ağın uyarıcıları bir sınıflandırma kuralına göre iki kategoriye ayırması gereken basit ikili sınıflandırma görevlerini araştırdı. Bir ağın bu görevlerde doğru şekilde tanımlayabileceği öğe sayısı, nesnelere rastgele kategorize edici etiketler atanarak belirlenir.
N nöronlu tek katmanlı bir ağ, her nesnenin durum uzayında tek bir noktaya karşılık geldiği ağlarda sınıflandırma hatası rastgele tahmine eşit olmadan önce 2N nesneyi sınıflandırabilir. Chung ve meslektaşları tarafından oluşturulan formalizm sayesinde nesne sınıflandırması için eğitilen sofistike derin (çok katmanlı) sinir ağlarının etkinliğini inceleyebildiler. Böyle bir ağı eğitmek için kullanılan fotoğraflardan manifold temsillerini oluşturduklarında, verilerden tahmin edilen manifoldların ortalama yarıçapının ve boyut sayısının, ağın daha derin katmanlarında daha sığ katmanlara kıyasla önemli ölçüde azaldığını keşfettiler. Bu düşüşün yanı sıra sistemin kategorizasyon gücü de arttı.
Ancak, bu önceki çalışmada ve diğer çalışmalarda, ağ kapasitesi tahmin edilirken çeşitli nesne temsilleri arasındaki ilişkiler dikkate alınmamıştır. Genel olarak biyolojik ve yapay sinir ağlarındaki öğe temsilleri arasındaki karmaşık ilişkilerin altta yatan verilerdeki yapısal özelliklerden kaynaklandığı bilinmektedir. Bu korelasyonlar, beyin uzayındaki sınıf çiftleri arasında değişen benzerlik derecelerinde yansıtıldığından, sınıflandırma da dahil olmak üzere çeşitli faaliyetler üzerinde önemli etkilere sahip olabilirler. Örneğin, bir hayvanın memeli olup olmadığını belirlemekle görevli bir ağda köpek ve kurt manifold temsilleri, kartal ve şahin temsillerinden daha karşılaştırılabilir olacaktır.
Derin sinir ağlarının performans-kapasite hesaplaması şimdi Chung’un ekibi tarafından nesne sınıfı korelasyonlarını hesaba katacak şekilde genelleştirildi. Ekip, çeşitli manifoldların eksenleri ve merkezleri arasında homojen korelasyonlara sahip bir sistem için ağ kapasitesini belirlemek amacıyla, çözülebilen bir dizi kendi içinde tutarlı denklem geliştirdi. Araştırmacılar, manifold eksen korelasyonlarının performans kapasitesini artırdığını, centroid korelasyonlarının ise manifoldları nöral durum uzayının orijinine yaklaştırarak performans kapasitesini azalttığını göstermiştir.
Sinir ağlarının incelenmesi son yıllarda birçok büyüleyici değişikliğe sahne oldu ve beyin girdisinden türetilen temsillerin geometrisini daha iyi anlamak için giderek daha fazla veri analizi aracı oluşturuluyor.
Yeni bulgular, girdi verilerindeki korelasyonların öğrenme ve performans için kritik olabileceği çok çeşitli görevleri yerine getirmek üzere eğitilmiş ağlarda öğrenilen temsillerin özelliklerini incelemek için kullanılabileceğinden, bu alanı önemli ölçüde geliştirmektedir. Soyut bilginin ilişki yapısının sorgulanmasının yanı sıra motor koordinasyon ve doğal dil içeren faaliyetler de bunlar arasındadır.
Kaynak: physics.aps.org/articles/v16/108
