Mevcut teknoloji ve yasalar çerçevesinde Yapay Zekâ sistemlerin gerçekten 8 milyar insanın bilgisini tutması, yeniden üretmesi olanaksız. Dolayısıyla bu sistemler, ellerindeki kısıtlı veriye ve o programı/makineyi kuran ekibin dünya görüşüne mahkûm olacaktır.

MEYDAN

Otomatik Cinsiyet: Yüz Tanıma Sistemlerinde Cinsiyet Problemi

 

 

Yapay zekâ hayatımızın önemli bir kısmında yer alacak, bu artık kesinleşmiş bir durum. Uzun süredir yapay zekâ ve etik tartışmaları sürmekte, mevcut teknoloji gelişmeden önce bile başlayan bu tartışmalar artık yalnızca teori değil. Yüz tanıma teknolojilerinin bazı büyük devletlerin vatandaşlarını izlemek ve istihbarat toplamak için kullanması ile başlayan bu yolculuk aslında farketmediğimiz ve konuşmadığımız bir çok katmana sahip. Peki kadınlar ve marjinalize edilmiş diğer insanlar bundan nasıl etkilenecek?

 

Örneğin, arama motorlarının kullandıkları algoritma gayet de gelişmiş bir yapay zekâ olarak ele alınmakta. Neticede, aradığınız kelimeler filtreleniyor, satın alınan ve toplanan datalarla eşleşiyor ve karşınıza çok gelişmiş ve isabetli sonuçlar çıkıyor. Bu algoritmalar kiminle akrabasınız, arkadaşsınız, hepsini takip ediyor ve onların aramalarına göre bile size sonuç çıkarıyor. Alakasız bir şekilde tatil köyü reklamı görünce “Aaa telefonlarımız bizi dinliyor mu? Ben tatil araması yapmadım!” dediğiniz örneklerde, bir tanıdığınızın aramalarından, size bunu anlatmış olacağını tahmin edip gösteriyor aslında.

 

Mevcut yapay zekâ teknolojisi aslında düşünen değil, eşleyen gelişmiş bir filtreleme sistemi. ChatGPT, Dall-E, Google arama motoru, YouTube ana sayfanız… hepsi bir veri tabanını inceleyip, çeşitli faktörleri karşılaştırıp uygun sonucu size sunuyor. Yapay zekâ ile yapılmış görüntü ve sesler bile bu sistem üstüne işliyor, veriyi inceleyip tahminde bulunuyor. En temelde açıklama “1’den sonra 2 gelirse, 2’den sonra 3 gelmeli” gibi şemaları tespit edip, bunları yeniden üretiyor aslında. 

 

Böyle bir teknolojiyi hayatımıza sokmadan önce düşünmeliyiz! Bunu söylemek için geç kaldık, sadece kişisel değil kamusal kullanımda da bu tür bilgi filtreleme ve tamamlama gereçleri yaygınlaşacak. En çok duyacağımız şeylerden birisi, bu tür sistemlerin ne kadar eşitlikçi ya da adil olduğu olacak. Fakat 8 milyar insanın olduğu bir dünyada, hâlâ her şeyi %100 isabetle bilecek ve tahayyül edebilecek bir yapay zekâ kapasitesine sahip değiliz. Bir kere, kişisel veriler ihlal edilmeden böylesine devasa bir veri tabanı oluşturmak mümkün değildir. O yüzden de toplumsal hayatımızda kurumsal olarak AI’ın kullanılması bir çok problemi beraberinde getirecek ve bu sorunların çözülmesi bir hayli zaman alacak.

 

Bu konuda detaylı bir incelemeyi Philosophy Tube kanalında videolar hazırlayan Abigail Thorn  yaptı. Trans kadınları özellikle etkileyen problemlerden bir tanesi, havaalanlarında sıkça kullanılan vücut tarama makineleri. Bu sistemlerin ikili cinsiyet sistemine ve cis vücutlara göre tasarlandığını anlatan Thorn, hayli önemli bir örnek sunuyor: hem göğüsleri hem de penisi olan bir kişinin makineye girdiği zaman atanan cinsiyete göre yanlış alarm vermesi. Yani makine kadında penis, erkekte meme beklemediği için, kişiyi “tehlikeli bir eşya saklamış olabilir” sonucuyla zan altında bırakıyor.

 

Yıllar boyunca yapay zekâ sistemlerinin ırkçı ve cinsiyetçi sonuçlar vermemesi için çabalamış, veri tabanını güncel, gerçekçi ve hümanist tutmaya çalışan bir çok şirket var. Velakin mevcut teknoloji ve yasalar çerçevesinde bu sistemlerin gerçekten 8 milyar insanın bilgisini tutması, yeniden üretmesi olanaksız. Dolayısıyla bu sistemler, ellerindeki kısıtlı veriye ve o programı/makineyi kuran ekibin dünya görüşüne mahkûm olacaktır.

 

Sistemlere siyah insanların yüzünü öğretmek, kadınların yüzünü öğretmek bile sonradan çıkan, bir şekilde kapatılmış eksiklikler. Ama hangi siyahlar, hangi kadınlar? Veri tabanında oluşacak olası bir hata, bir kişinin layık olduğu bir iş fırsatını kaçırmasına, gereksiz yere ceza yemesine, kullanması gereken sistemlerden ban’lanmasına ve bunun gibi daha bir çok olumsuz senaryoya neden olabilir.

 

Özellikle de halihazırda yasal korumaları noksan ve tüm dünyada tehlike altında olan marjinalize edilmiş kimliklere karşın bu eksiklikler hem giderilmeyebilir, hem de karşı unsur olarak kullanılabilir.

 

Bu yazıyı yazma nedenlerimden biri, 5Harfliler ekibinin benle paylaştığı bir imza kampanyası oldu. Yapay zekâyı düzenleyen yasalarda, yapay zekânın kişiye bir cinsiyet ve cinsel kimlik ataması sorununun gündem edilmesi ve halihazırda insanların yüzlerini filtreleyip verilerle eşleştiren uygulamaların son bulması gerektiğini söyleyen bir kampanya. Yapay zekânın aslında ne olduğu bilip, eksikliklerini düşündüğümüz zaman da gayet haklı bir talep bu. 

 

Elimizdeki mevcut teknoloji kendi başına düşünebilen, kendi fikirleri olan, kendi arzu ve istekleri olan bir makine değil, yani “gerçek yapay zekâ” değil. Yazılımcı ve uygulayıcısına bağlı, onların tahayyül ettiği kadar düşünen ve yaratılış amacına hiçbir yaratıcı müdahalede bulunamayan, aslen düşünmeyen, yalnızca tekrarlayan bir filtreleme sistemi. Bu teknoloji %100 güvenli ve objektif bir hale gelmeden, kamu kurumları gibi toplumu doğrudan etkileyen yerlerde kullanılmamalı. Mevcut durumda ise kamu kuruluşları tarafından haklarımızı ihlal etmeyen bir kullanım imkânsız görünüyor.

 

Sistem trans olana cis, cis olana trans atayabilir. Kimlikleri doğru atayamadığı yerlerde herkes için büyük problemler çıkarabilir. Ya da kötü niyetli kişiler tarafından insanları hedef göstermek ve onlar hakkında istihbarat toplamak için kullanılabilir. Zaten kişisel veri güvenliği konusunda bir hayli güvensiz bir noktadayız, hayati yerlerde olacak hatalı bir uygulama çok fazla kişiyi tehlikeye atar.

 

Sistem cis heteronormatif ve beyaz üstünlükçü standartları empoze edebilir, kafatasçılık için bile kullanılabilir. Sadece sistemin ayarları ve girdi filtreleri ile oynamanız yeterli olacaktır. Atanmış cinsiyetin dijital yansıması otomatik cinsiyettir, diyebilir miyiz? Aslında Facebook ve Instagram’ın çatı şirketi Meta’nın ürünleri dijital içeriği çoktandır cinsiyetlendiriyor; bana çıkan reels ile erkek arkadaşıma çıkan reelsler arasında bir hayli fark var örneğin. Bu ürünler siyasi görüşlerimize göre de içerik değişiyor. Yapılan araştırmalar, “aşırı sağ” içerik izleyen bir insanın, zamanla bir “aşırı sağ içerik seline” kapılabileceğini gösteriyor. Bu insanı bir hayli radikalleştiren bir ayrıştırma aracı oluyor.

 

Şahsi görüşüm, sosyal medya ve bilgi çağına bile hazır olmayan kitleler için böylesi bir güce erişmeye hazır olmadığımız yönünde. Sıradan vatandaştan tutun devlet görevlilerine kadar, tüm dünya için geçerli olan görüşüm ise şu: Bizler bilgisayarların veri işleme kapasitesine kapasite olarak hazır değiliz. Henüz gerçek yapay zekâya erişemeden karşımıza çıkan tonla problemle beraber, daha son 20 senenin teknolojik gelişmelerini alakadar eden güvenli pratikler ve gerekli yasal zemin oluşmadı. Bu yol gidilirken düzülürse, yapay zekâ için bir hayli tehlikeli sonuçlar doğurabilir. Pessimizmimin nedeni ise, özellikle de zengin ve süpergüç devletlerin bu tür bir teknolojiyi suiistimal etmeye dünden hazır olduğunu düşünmem. Onların yol açtığı bu suiistimal çemberi, çok kısa sürede dünya çapında eşitlik mücadelesi veren herkese karşı kullanılabilir.

 

Oysa yapay zekâ günlük hayatımı ne kadar da kolaylaştırıyor. Gelişmesi ve güvenli hale gelmesi için bir kamuoyu bilinci oluşmak zorunda. Aksi takdirde zaten aşırı bilgi yüklemesi yaşayan toplumlar olarak doğru ve yalanı ayırt edemeyecek bir bilgi kirliliğinin ve o kirlilikle yozlaşmış algoritmaların pençesine düşmemiz işten değil. Yapay zekâ teknolojisi getirdiği artılarla beraber daha eşitlikçi bir toplum da kurabilir. 

 

 

Kaynakça

The good, the bad and the ugly sides of data tracking

Here’s What Ethical AI Really Means

Alt-right pipeline – Wikipedia

https://campaigns.allout.org/ban-AGSR

 

 

Ana görsel: pixabay

 

 

YAZARIN DİĞER YAZILARI

MEYDAN

YBenim Bedenim, Benim Kararım Mı?
Benim Bedenim, Benim Kararım Mı?

Mahremiyetim, bedenim, öz ve kişilik haklarım, trans olarak açıldığım an elimden alınıyor.

Bir de bunlar var

Anne Olunca Anlamadım
Lezbiyen Biseksüel Feministler Sözlü Tarih Projesine Çağırıyor
Kadınınız Kutlu Olsun

Pin It on Pinterest