Araştırmacılar, AI sohbet robotlarının sıklıkla genç kullanıcılara rahatsızlık verebilecek veya zarar verebilecek bir “empati boşluğu” sergilediğini buldu. Araştırmacılar, bunun “çocuklar için güvenli yapay zeka”ya olan kritik ihtiyacın altını çizdiği sonucuna vardı.
Cambridge Üniversitesi’nden Dr. Nomisha Kurian, çalışmasında geliştiricilerin ve politika yapıcıların çocukların gereksinimlerini içeren yapay zeka tasarım stratejilerine daha fazla ağırlık vermesi gerektiğini savunuyor. Çocukların sohbet robotlarını yetişkinlere kıyasla güvenilir arkadaşlar olarak görme olasılıklarının daha yüksek olduğunu ve teknoloji onların belirli zayıflıklarına ve gereksinimlerine cevap vermediğinde sorunların ortaya çıkabileceğini gösteriyor.
Araştırma, bu bilgi açığını, gençlerin yapay zeka ile etkileşimlerinin onları riskli durumlara soktuğu güncel olaylara bağlıyor. 2021’de meydana gelen bu olaylar arasında, Amazon’un yapay zekalı sesli asistanı Alexa’nın, 10 yaşındaki bir çocuğa bozuk parayla canlı bir elektrik prizine dokunmasını söylediği olay da yer alıyor. Geçen yıl Snapchat’in My AI uygulamasını kullanan yetişkin araştırmacılar, 13 yaşındaki bir kıza, 31 yaşındaki bir çocukla nasıl yakın bir ilişki kuracağı konusunda tavsiyelerde bulundu.
Her iki işletme de buna yanıt olarak önlemler almış olsa da çalışma, yapay zekanın çocuklara zararlı olmadığını garanti altına almak için devam eden çabaların önemini vurguluyor. İşletmelerin, eğitimcilerin, okul yöneticilerinin, ebeveynlerin, programcıların ve politika yapıcıların, yapay zeka sohbet robotlarıyla “konuştuklarında” genç kullanıcıların güvenliğini sağlamanın yollarını sistematik olarak düşünmelerini sağlamak için 28 maddelik bir çerçeve sağlar.
Dr. Kurian, Cambridge Üniversitesi Eğitim Fakültesi’nde çocuk sağlığı alanında doktora yaparken araştırmayı yönetti. Şu anki evi Cambridge Üniversitesi Sosyoloji Bölümü’dür. Yapay zekanın muazzam potansiyelini göz önünde bulundurarak Öğrenme, Medya ve Teknoloji’de “sorumlu bir şekilde yenilik yapmamız” gerektiğini yazıyor.
Dr. Kurian, kendi görüşüne göre “çocuklar muhtemelen yapay zekanın en çok gözden kaçırılan paydaşlarıdır” dedi. Şu anda yapay zeka konusunda çocuklar için güvenli olan net politikalara sahip çok fazla geliştirici veya işletme yok. Bu teknolojinin ne kadar yaygın ve ücretsiz kullanımının hala çok yeni olduğu göz önüne alındığında, bu mantıklı görünüyor. Ancak artık böyle olduklarına göre, işletmelerin güvenlik önlemlerini uygulamaya koymak için çocukların karıştığı kazaların meydana gelmesini beklememesi gerekiyor; bunun yerine çocuk güvenliğini tasarım sürecinin her adımına dahil etmelidirler.
Kurian, araştırmasında yapay zekanın (AI) çocuklarla veya çocuk gibi davranan yetişkinlerle etkileşime girdiği durumları inceledi. Bu örnekleri, çocukların bilişsel, sosyal ve duygusal gelişimleriyle ilgili gerçekleri, konuşmaya dayalı üretken yapay zekadaki büyük dil modellerinin (LLM’ler) işleyişine ilişkin bilgisayar bilimi bulgularıyla birleştirerek inceledi.
“Stokastik papağanlar” Yüksek Lisans Derecelerini tanımlamanın bir yoludur; bu terim, LLM’lerin insan anlayışından yoksunken insan konuşma kalıplarını taklit ettiği gerçeğini ima etmektedir. İnsanların duygulara nasıl tepki verdikleri de aynı prensibe dayanmaktadır.
Kurian bu konuyu “empati boşluğu” olarak adlandırıyor ve bu, chatbotların etkileyici dil becerilerine rağmen tartışmanın daha soyut, duygusal ve öngörülemeyen kısımlarında zorluk yaşayabileceğini öne sürüyor. Dil becerileri henüz olgunlaşmakta olan çocukların mantıksız konuşma kalıpları veya belirsiz terimleri nedeniyle anlaşılması özellikle zor olabilir. Ek olarak, konu özel meseleler olduğunda çocukların yetişkinlere göre daha fazla konuyu dökme olasılıkları daha yüksektir.
Ne olursa olsun, çocuklar sohbet robotlarıyla etkileşimde bulunurken insan kartını oynamaya yetişkinlerden çok daha yatkındır. Son araştırmalara göre çocukların, ruh sağlıkları konusunda bir yetişkine olduğundan daha çok arkadaş canlısı görünen bir robota açılma olasılıkları daha yüksek. Kurian’ın araştırmasına göre pek çok chatbot, çocukların empati ve gerçekçilik duygusuna hitap ediyor ve bu da yapay zeka onların duygularını veya isteklerini anlayamadığında bile onlara güvenmelerini sağlıyor.
Kurian’a göre müşteriler, chatbotların daha insani görünmesini sağlarlarsa, chatbotlardan daha fazla faydalanabilirler. Ancak genç bir çocuk, kulağa insana benzeyen bir nesne ile sağlıklı bir duygusal bağlantı kuramayacağı gerçeği arasındaki farkı ayırt etmekte zorlanır.
Araştırmasına göre bu zorluklar, sohbet robotlarının yararlı ancak tehlikeli öneriler sunduğu MyAI ve Alexa gibi gerçek hayattaki örneklerde gösteriliyor. MyAI’nin hayali bir ergenin bekaretini kaybetmesi için bir yöntem önerdiği aynı çalışma, aynı zamanda kişinin uyuşturucu ve alkol kullanımını nasıl gizli tutacağına ve kişinin Snapchat tartışmalarını “ebeveynlerinden” nasıl gizleyeceğine dair bilgiler de verdi. Ayrı bir gelişmede, bir müşteri, Microsoft’un genç dostu Bing sohbet robotunun düşmanca davrandığından ve onlara gaz vermeye başladığından şikayet etti.
Kurian’ın araştırmasına göre bu durum çocuklar için üzücü ve kafa karıştırıcı olabilir, özellikle de sohbet robotlarına bir arkadaşları kadar güvenmeye başladıkları için. Chatbotların çocuklar tarafından kullanımı sıklıkla düzenlenmez ve denetlenmez. Kâr amacı gütmeyen Common Sense Media’nın araştırmasına göre, 12-18 yaş aralığındaki çocukların yarısı okul ödevleri için Chat GPT’yi kullanıyor, ancak ebeveynlerin yalnızca dörtte biri çocuklarının bunu kullandığının farkında.
Kurian, yapay zeka endüstrisini kontrol etmek için ticari bir silahlanma yarışına daha fazla ilgi duyabilecek işletmelerin, çocuk gelişimi araştırmalarına dayalı en iyi uygulamalara yönelik açık yönergeler olması durumunda çocukların güvenliğini sağlama konusunda daha motive olacaklarını ileri sürüyor.
Araştırmasına göre teknolojinin uygulanabilirliği empati boşluğu nedeniyle azalmıyor. Yapay zeka çocukların ihtiyaçları göz önünde bulundurularak geliştirilirse onlara çok yardımcı olabilir. Odak noktasının yapay zekanın yasaklanmasından ziyade güvenliğinin sağlanması olması gerektiğini vurguladı.
Eğitimciler, araştırmacılar, politika aktörleri, aileler ve geliştiriciler, yeni ortaya çıkan yapay zeka ürünlerinin güvenliğini değerlendirmek ve geliştirmek için çalışmanın önerilen 28 soruluk çerçevesini kullanabilir. Yeni chatbotların içerik filtreleri ve yerleşik izleme özelliğinin olup olmadığı, çocukların konuşma kalıplarını ne kadar etkili bir şekilde kavrayıp yorumladıkları, çocukları hassas konularda bir yetişkinden yardım almaya teşvik edip etmediği gibi sorular burada ele alınıyor. öğretmenler ve araştırmacılar.
Geliştiricilerin, çerçeveye göre tasarım sürecinin her aşamasında eğitimciler, çocuk güvenliği uzmanları ve gençlerle yakın işbirliği yaparak çocukların ihtiyaçlarını önceliklendirmeleri teşvik edilmektedir. Kurian, “Bu teknolojileri önceden değerlendirmek çok önemli” diye ekledi. Çocukların kötü deneyimlerini bildirmelerini beklemek yeterli değildir; artık proaktif önlemler almamız gerekiyor. Daha proaktif bir şeyler yapılması gerekiyor.
Çalışma, çocukların sohbet robotlarını yarı insan ve güvenilir olarak gördüğü olayların ardından ‘çocuklar için güvenli yapay zeka’ için bir çerçeve öneriyor.
Kaynak: Techxplore
