Bir Google mühendisi yakın zamanda Yapay Zeka sohbet robotundan bir kişi olarak bahsettiğinde kaos patlak verdi. LaMDA adı verilen sohbet robotu, herhangi bir metin satırını takip edecek olası ifadeleri tahmin etmek için geniş bir dil modeli (LLM) kullanır. Bu yöntemler verimli bir sohbetin nasıl sürdürüleceğini belirleyebilir. Çünkü birçok konuşma makul ölçüde tahmin edilebilirdir. LaMDA bu başarıyı öylesine hayranlık uyandıran bir beceriyle gerçekleştirdi ki mühendis Blake Lemoine, cihazın hayaletli olup olmadığını sorgulamaya başladı.
Lemoine’nin anlatısı çok çeşitli tepkiler aldı. Bazı insanlar bir makinenin bir insan olabileceği fikrine güldüler. Diğerleri, bu LLM bir insan olmasa da, bir sonrakinin olabileceğini iddia etti. Diğerleri, insanları kandırmanın o kadar da zor olmadığını çünkü manevi açıdan insanların etkilenebileceğini belirttiler.
Bununla birlikte, tepkilerin çeşitliliği, daha ciddi bir konuya dikkat çekiyor: Bu LLM’ler yayıldıkça ve güçlendikçe, onları nasıl yorumlamamız gerektiği konusunda daha az fikir birliği var gibi görünüyor. Yıllar boyunca, bu sistemler, birçoğunun “genel olarak bireyler için ayırdığımız tam anlamıyla düşünme” yeteneğine sahip bir makine dışında herhangi bir şey tarafından aşılmaz olduğu iddia edilen sayısız “sağduyu” dili akıl yürütme ölçütlerini aştı.
Bununla birlikte, bu sistemler, testi geçtiklerinde sahip olduklarını iddia ettikleri sağduyuya nadiren sahip görünüyorlar ve çoğu zaman yine de düpedüz saçmalığa, haksızlığa ve güvenli olmayan tavsiyelere karşı hassas olabiliyorlar. Bu tespit edilen olgular sistemlerin aynı anda bu kadar kısıtlı görünürken nasıl bu kadar akıllı olabileceğine dair rahatsız edici soruyu gündeme getiriyor.
Asıl sorun yapay zeka değil. Mesele dilin sınırlarıdır. Bu sistemlerin, biliş ve dil arasındaki ilişki hakkında uzun süredir devam eden inançları bir kez bıraktığımızda, insanlarda gözlemlediğimiz karmaşık düşünceye asla yaklaşamayacak sınırlı bir bilgiye mahkum olduğu açıktır. Sonuç olarak, bu AI sistemleri gezegendeki en etkileyici sistemler arasındadır, ancak asla bizim gibi olmayacaklar.
19. ve 20. yüzyıllarda bilginin tamamen dilsel olduğu fikri – herhangi bir şeyi bilmenin, uygun cümleyi düşünmek ve bildiğimiz tüm doğru ifadelerden oluşan geniş bir ağdaki diğer cümlelerle nasıl bağlantı kurduğunu anlamak kadar basit olduğu fikri – çoğu için felsefe ve bilimde tekrar eden bir konuydu.
Bu mantığa göre, ideal dil biçimi, katı çıkarım kurallarıyla birbirine bağlanan keyfi simgelerden oluşacaktır. Bununla birlikte, belirsizlikleri ve yanlışlıkları ortadan kaldırmak için ekstra özen gösterilmişse, doğal dil de işe yarayabilir. Wittgenstein’ın sözleriyle, doğru ifadelerin tamamı “doğal bilginin bütünüdür”.
20. yüzyılda pek çok insan, görünüşlerine rağmen, bilişsel haritaların ve zihinsel temsillerin temelde dilsel olması gerektiğini savundu ve onlar hakkında psikolojik keşifleri tartışmalı hale getirdi.
Bazı aşırı eğitimli ve entelektüel tipler için bir ansiklopedi bilinen her şeyi içerdiğinden, hepsini okumanın bize her şeyi tam olarak anlamamızı sağlayacağı inancına sahiptir.
Ayrıca, varsayılan paradigmanın, mantıksal kurallara uygun olarak çeşitli şekillerde AI’daki ilk çalışmaların çoğuna ilham verdiği belirtiliyor.
Bu araştırmacılar için, bir yapay zekanın bilgisi, manüel olarak bağlanan gerçek cümlelerden oluşan büyük bir veri tabanından oluşuyordu.
Bir yapay zeka sistemi, uygun zamanda uygun cümleyi belirttiğinde yani sembolleri doğru bir şekilde kullanıyorsa, akıllı olarak kabul ediliyordu. Turing testi, bir makine olması gereken her şeyi söylüyorsa, ne hakkında konuştuğunu bilmesi gerektiği fikrine dayanır, çünkü bilgi yalnızca ne zaman kullanılacağı uygun cümleleri bilerek tükenir.
Ancak bu, o zamandan beri onu takip eden sert bir eleştiriye maruz kaldı: Bir makinenin herhangi bir şey hakkında konuşabilmesi, ne hakkında konuştuğunu bildiği anlamına gelmez.
Bunun nedeni, dilin yalnızca çok küçük ve çok özel bir bilgi alt kümesini temsil etmesidir. Dil, bilgiyi tüketmez.
Bir programlama dili veya sözlü, yazılı veya sembolik mantıkta kullanılan bir konuşma dili olsa da tüm diller ayrı nesneleri ve nitelikleri çok yüksek bir soyutlama düzeyinde temsil etmede üstün olan belirli bir temsil şemasına dayanır.
Ancak bir müzik notasını okumak, müziğin kaydını dinlemek ve enstrümanı çalmak arasında önemli farklar vardır.
Tüm temsili şemalarda, bir şey hakkındaki bilgiler sıkıştırılır, ancak sıkıştırmaya dahil edilen ve hariç tutulan bilgiler farklıdır.
Dilin temsili şeması, düzensiz şekilleri temsil etmek, nesnelerin hareketi, karmaşık bir cihazın çalışması veya ince bir fırça çalışması gibi daha somut bilgilerle dayanır.
Bununla birlikte, imajlar, kayıtlar, grafikler ve haritalar gibi şeyleri içeren ikonik bilgi ve ayrıca eğitimli sinir ağlarında bulunan dağıtılmış bilgi (sıklıkla teknik bilgi ve kas hafızası olarak adlandırdığımız) dilsel olmayan temsili şemalardır.
“Ya Picasso ya da Twombly” neye benziyor? Her şema bazı bilgileri tasvir etmeyi kolay bulurken, diğer bilgileri bunu yapmayı zor hatta imkansız bulmaktadır.
Dilsel temsili şemanın kendi başına ne kadar az bilgi taşıdığını fark etmek, onu neyin benzersiz kıldığını ve ne kadar kısıtlı olduğunu daha iyi anlamamıza yardımcı olabilir.
Dil, bilgi aktarımı için son derece dar bir bant genişliğine sahiptir; izole kelimeler veya cümleler, bağlamdan yoksunsa fazla bir şey ifade etmeyecektir.
Ayrıca, birçok cümlede eş sesli ve zamirlerin çokluğu nedeniyle çok fazla belirsizlik vardır.
Chomsky ve yandaşlarının on yıllardır tartıştığı gibi dil, net bir iletişim için açık ve net bir araç değildir.
Bu yaklaşım, bir metni anlamak için genel okuduğunu anlama tekniklerini uygulamaya odaklanır, ancak araştırmalar, arka plan bilgisinin aslında çocuklarda anlama için en önemli unsur olduğunu göstermektedir. Bir cümleyi veya bölümü anlamak için eldeki konunun anlaşılması gereklidir.
Kaynak: noemamag
