Bir insanın yüzü benzersizdir. Aynı zamanda hem kamusal hem de özeldir. Cinsiyetimiz, duygularımız, sağlık durumumuz ve daha fazlası gibi hakkımızdaki hassas bilgiler yüzümüzde görülebilir. Sizlere Avusturalya özelinde yazıya dökülmüş ancak tüm dünya genelini ilgilendiren bir konunun ayrıntıları ile bilgi vermek istiyoruz.
Avustralyalı yasa koyucular, diğer ülkelerdekiler gibi, yüz verilerimizin büyük ölçekte toplanacağını ve cep telefonlarımızdan polis CCTV kameralarına kadar her şeyde kullanılacağını bilmiyorlardı. Yine de yüz tanıma teknolojisinin inanılmaz büyümesine rağmen yasalarımızın bunu takip etmemesine şaşırmamalıyız.
Peki ama ne tür yasalar gerekli? Teknolojinin hem iyi hem de kötü amaçlar için kullanılabilmesi nedeniyle hem yasaklanması hem de mevcut serbestlik istenmeyen bir durum gibi görünmektedir.
Ancak, yasal düzenlemelerdeki eksiklikler toplumumuzu tehlikeli yüz tanıma uygulamalarına maruz bırakmıştır. Yasadaki bu boşluğu kapatmak için, Avustralya’nın dört bir yanındaki hükümetlerin benimseyebileceği veya değiştirebileceği düzenlemeler için bir çerçeve olan ve yüz tanıma teknolojisinin tehlikeli kullanımını kontrol ederken güvenli olanlara izin verecek bir “model yasa” öneriliyor.
Yüz tanıma teknolojisinin zorlukları
Yüz tanıma teknolojisinin uygulamaları sadece insan yaratıcılığı ile sınırlı görünmektedir. Birçoğumuz yüz tanıma teknolojisini kullanarak akıllı cihazlarımızın kilidini açmakta sorun yaşamıyoruz. Ancak bu teknoloji Avustralya’da okullar, havaalanları, mağazalar, gece kulüpleri ve kumarhaneler gibi çeşitli ortamlarda ve polis tarafından da test edilmiş ya da kullanılmıştır.
Yüz tanıma teknolojisinde öngörülen yıllık %20’lik büyüme ile birlikte, özellikle kolluk kuvvetleri gibi yüksek riskli ortamlarda, insanlar için risk artmaktadır. ABD’de güvenilmez yüz tanıma teknolojisine güvenilmesi, özellikle Siyahileri ilgilendiren birçok adaletsizlik vakasına yol açmıştır. Bunlar arasında Robert Williams’ın haksız yere gözaltına alınıp hapsedilmesi ve genç bir Siyah kızın Detroit’teki bir paten pistinden haksız yere çıkarılması yer almaktadır.
Meta, Amazon ve Microsoft gibi dünyanın en büyük teknoloji firmalarının birçoğu yüz tanıma ile bağlantılı hizmetler sunmayı azalttı ya da durdurdu. Gerekçe olarak da yasal düzenlemelerin etkisizliğini ve tüketici güvenliğine ilişkin endişeleri gösterdiler. Bu takdire şayan olsa da, bir tür “düzenleyici piyasa başarısızlığına” da yol açtı.
Bu işletmeler hizmetlerini geri çekerken, daha az ahlaki değerlere sahip olan diğerleri yüz tanıma pazarındaki paylarını arttırdılar.
Amerikan Clearview AI şirketini düşünün. Bu şirket, sosyal medya ve diğer web sitelerinden milyarlarca yüz fotoğrafını yasadışı bir şekilde topladıktan sonra Avustralya Federal Polisi ve dünyanın dört bir yanındaki diğer kolluk kuvvetlerine sunduğu bir yüz eşleştirme hizmeti kurdu.
Avustralya Bilgi ve Gizlilik Komiseri, AFP ve Clearview AI’nin 2021 yılında Avustralya’nın gizlilik yasalarını ihlal ettiğine karar verdi, ancak bu tür yaptırımlara nadiren rastlanıyor.
Bu arada Avustralyalılar yüz tanımanın daha sıkı bir şekilde düzenlenmesi çağrısında bulunuyor.
Bu durum, Avustralya İnsan Hakları Komisyonu’nun 2021 raporu, büyük perakendeciler tarafından yüz tanıma teknolojisinin kullanımına ilişkin 2022 CHOICE soruşturması ve İnsan Teknolojisi Enstitüsü’nün model yasamızın bir parçası olarak yaptırdığı araştırma da dahil olmak üzere çeşitli raporlarda ortaya konmuştur.
Yüz tanımayı iyileştirmek için seçenekler
Avustralya’nın elinde ne gibi alternatifler var? Birincisi hiçbir adım atmamak. Ancak bunu yapmak, yüz tanıma teknolojisinin potansiyel olarak kötü uygulamalarından korunmayacağımızı kabul etmeyi gerektirecek ve bu da bizi yaygın gözetim yönünde ilerlemeye devam ettirecektir.
Farklı bir seçenek ise yüz tanıma teknolojisini tamamen yasaklamak olacaktır. Bazı hükümetlerin uygulamaya koyduğu teknolojik moratoryumlarda birçok istisna (faydalı kullanımlar için) yer almaktadır, ancak bunlar en iyi ihtimalle geçici bir çözümdür.
Savunulan görüş olarak, yüz tanıma teknolojisini risk düzeyine göre düzenleyen bir mevzuatın daha üstün bir reform seçeneği olduğu yönündedir. Bu tür bir düzenleme, teknolojinin olumsuz uygulamalarına karşı koruma sağlarken, bariz kamu yararları ile yüz tanımayı teşvik edecektir.
Yüz tanıma teknolojilerinin düzenlenmesi için risk temelli bir yasa
Avustralya’da yüz tanıma yazılımı tasarlayan veya uygulayan herkesin, model yasamız uyarınca, insan haklarına olası zararı değerlendirmek için kapsamlı bir etki analizi yapması gerekecektir.
Yasal gereklilikler veya sınırlar tehlike seviyesiyle birlikte artacaktır. Buna ek olarak, geliştiriciler, yapay zeka performansı ve sağlam veri yönetimi için küresel normlara uygun bir yüz tanıma teknolojik standardına uymak zorunda kalacaklardır.
Model yasa, yüz tanıma teknolojisini kullanan tüm yüksek riskli uygulamaları yasaklamaktadır. Örneğin, bir kişi hakkında yargıda bulunmadan önce cinsel yönelimini belirlemek için bir “yüz analiz” programı kullanmak yasa dışı olacaktır..
Yüksek riskli yüz tanıma teknolojilerinin yasaklanmasına ilişkin üç istisna da model yasada yer almaktadır:
1) Düzenleyici kurumun yüksek riskli bir uygulamanın uluslararası insan hakları hukuku tarafından gerekçelendirildiğine inanması halinde, bu uygulamaya onay verilebilir.
2) Kolluk kuvvetleri, diğer arama emirlerine benzer şekilde bağımsız gözetim sağlayacak bir “yüz arama emri” programını da içeren özel bir yasal çerçeveye tabi olacaktır.
3) Doğru koşullar altında, yüksek riskli uygulamalar akademik araştırmalarda kullanılabilir.
Herhangi bir yasanın uygulanmasını sağlamak için gerekli yetki ve kaynaklara sahip bir düzenleyici kurum gerekecektir. Bunu kim yapmalı?
Avustralya Bilgi Komiserliği Ofisi (OAIC), iş kullanıcıları, teknoloji şirketleri ve sivil toplum temsilcileri de dahil olmak üzere görüştüğümüz tarafların çoğunluğu tarafından yüz düzenlemesini denetlemek için en iyi aday olarak önerildi. Ayrıca, ordu ve belirli güvenlik kuruluşları gibi belirli, hassas kullanıcılar için özel bir gözetim sistemine de ihtiyaç duyulabilir.
Daha önce sivil toplum, iş dünyası ve hükümetin her kesiminden bu kadar çok kuruluş ve kişinin bir araya gelerek yüz tanıma teknolojisinde reform yapmaya karar verdiğini hiç görmemiştik. CHOICE ve Avustralya Teknoloji Konseyi’nin model yasayı desteklemesi de bunun bir göstergesidir.
Federal başsavcı bu fırsatı değerlendirmeli ve yüz tanımanın kullanımındaki kayda değer artış ve paydaşlar arasında gelişen fikir birliği ışığında ulusal reform konusunda öncülük etmelidir. Mümkün olan en kısa sürede federal bir yasa tasarısı sunun. Bu yasa tasarısı bizim model tüzüğümüze dayanabilir. Başsavcı, Avustralya’daki yüz tanıma yasasını senkronize etmek için eyaletler ve bölgelerle birlikte çalışmalıdır.
Önerilen bu değişiklik kendi başına önemlidir çünkü yüz tanıma teknolojisinin pratikte kontrolsüz çalışmasına izin veremeyiz. Ayrıca Avustralya’nın kamu yararı için inovasyonu teşvik ederken aynı zamanda yeni teknolojinin tehlikeli kullanımlarına karşı yasaları nasıl kullanabileceğini de gösterecektir.
Raporumuz, “Yüz tanıma teknolojisi: Bir model yasaya doğru” başlıklı raporumuz model yasaya ilişkin daha fazla ayrıntı içermektedir.
Kaynak: techxplore
