Yetenekli algoritmalar dijital alanlara nasıl hükmediyor?

Beceriksiz sosyal medya reklamlarından işe alımda sorunlu otomasyona kadar, algoritmalar genellikle istemeden engelli profesyonellere karşı istiflenir.

Oldukça çevrimiçi engelli bir kişi olarak bir algoritma ile yaptığımı hatırladığım ilk etkileşim, gençliğimde Facebook’a giriş yaptıktan sonra geldi. O zamanlar bir parasporu atletiydim – özellikle tekerlekli sandalye basketbolu – ve bu nedenle küçük kenar çubuğum, hem basketbol oynamakla hem de tekerlekli sandalye kullanıcısı olmakla ilgili, soyut olarak mantıklı olan ancak pratikte işe yaramayan bir dizi reklam sunuyordu. Gördüğümü hatırladığım iki reklam, ihtiyacım olmayan bir ürün olan kateterler ve daha yükseğe zıplamanızı sağlayan basketbol ayakkabılarıydı.

Bu, arka uç sistemlerin ne zaman yanlış yaptığına dair iyi bir örnek olsa da, bazen sonuçlar çok daha kötü olabilir. Olivia Banner, “Algoritmik yetenekçilik, algoritmaların nasıl ayrıcalıklar yarattığını ve engellilik ideolojisini ve ayrıca engellilik için tıbbi modeli ve sağlıkçılık kültürünü nasıl desteklediğini sıralama, sıralama ve filtrelemenin adını veriyor” diyor. Crip Technoscience denen bir alan. Bu, engelli insanların ihtiyaç ve isteklerine uyacak şekilde teknolojiye nasıl uyum sağladıklarına ve uyum sağladıklarına odaklanan bir çalışma alanıdır . Dallas’taki Texas Üniversitesi’nde eleştirel medya çalışmaları doçenti olarak yaptığı çalışmanın bir kısmı, algoritmik yetenekçilik olarak bilinen bir kavramı araştırıyor. 

“Bu, bir algoritma ‘yeterli olmak için’ hazırlanmış olduğu için olmuyor,” diye devam ediyor. “Algoritmaların geliştirildiği ve tesis edildiği bağlamlar, zaten güçlü-bedenliliği ve yetenek kültürlerini desteklemektedir. Bunlara fitness kültürü, sağlık optimizasyonu kültürü ve sosyal Darwinizm (öjenik) dahildir.”

Algoritmik önyargı neredeyse hiç tasarım gereği değildir

Banner, algoritmalarının insan önyargısını ortadan kaldırabileceğini iddia eden, ancak halka açık forumlarda ve çevrimiçi bloglarda rutin olarak eleştirilen bir video görüşme şirketi olan HireVue tarafından kullanılanlara benzer sistemlere işaret ediyor . 

Tartışmalı olsa da, birçok kişi bu tür araçların engelli insanlara karşı zaten yaygın olan önyargıları sürdürebileceğini iddia ediyor. Algoritmik yetenekçiliği inceleyenler için, bu sistemler aktif olarak ayrımcı bir araç olarak kullanılıyor değil. Bildiğimiz kadarıyla, TikTok’taki yardımcı cihazlarla ilgili içerikleri “gölge yasaklama” veya engelli kişilerin işlerini reddetmek için ipleri elinde tutan BT çalışanlarının bilinen kötü bir grubu yok. Aksine, bu sorunlar, anti-ableist olmaya çalışmayan araçların pasif bir sonucudur.

Bu ayrım, İtalya’daki Syracuse Üniversitesi’nde iletişim profesörü olan Dr T Makana Chock’un bilemek istediği bir ayrımdır. Ona göre sorun, herhangi bir algoritmik çabanın temel misyonunda başlıyor: verimlilik dürtüsü. Bu, sosyal medya etrafında inşa edilmiş bir dünyada giderek daha belirgin hale gelen bir endişedir.

“Özellikle sosyal medya için, baktığınız şeylerin çoğu en çok neyin beğenildiğinin, neyin en çok izlendiğinin temelleri. Şimdi, sosyal medyayı kullanan insanların sorunu, en sık ortaya çıkan görüntülerin neyin normal, neyin arzu edilir olduğuna dair algıları sürdürmesidir.

Algoritmik dikkat ekonomisini açmak

Chock, sosyal medyanın ahlakı, kendimizin en “en iyi ve gösterişli versiyonlarına” bu kadar yoğun bir şekilde yöneldiğinde, algoritmaların, engelli bir deneyimin – doğası gereği çekici gelme olasılığı daha düşük olan – olduğu fikrini kolayca sürdürebileceğini söylüyor. odaklanmaya değmez. Banner, endişenin bir kısmının, bu algoritmalar yetenekli hale geldiğinde engelliliğin tamamen silinmesi değil, daha fazla katılım sağlama eğiliminde olan engelliliğin sorunlu temsillerine öncelik vermesi olduğunu söylüyor. 

“Algoritmalar – örneğin sosyal medya gibi bazı bağlamlarda – insanların dikkatini en üst düzeye çıkarmak için tasarlandığından, ‘zirveye çıkan’ her şeyi tercih ederler. Engellilik, ilham pornosu, engelli insanlara karşı duygusallık, acıma retoriği ve engellilikten istenmeyen ve istenmeyen olarak bahsetmenin diğer yolları söz konusu olduğunda – bunlar genellikle engelli insanların memlerde, Facebook sayfalarında, sosyal medya kampanyalarında ve diğerlerinde nasıl çerçevelendirildiğidir. algoritmik dikkat ekonomisinin unsurları.”

Engelli aktivist Stella Young’ın çığır açan TED Konuşmasında herkesin bildiği ilham pornosu, engelli insanların sadece var oldukları için takdire şayan veya ilham verici olarak görüldüğü bir olgudur. 

Engelli insanların çoğalmasının, sadece engelli olmayanların sabahları yataktan kalkmak için yakıt olarak kullandıkları nesneler olarak görülmesi veya bazı durumlarda, ne pahasına olursa olsun kaçınılması gereken trajik arka plan, engelli insanları belirgin bir dezavantaja sokar. araştırmacılara Engelli insanlar , önyargıları için aktif olarak izlenmeyen veya düzeltilmeyen bir algoritmanın kaprislerine kapılmış tek marjinal grup değilmiş gibi . Banner, kimliklerin kesişme noktalarının genellikle bu olumsuz etkileri artırabileceğini söylüyor.

“Algoritmik yetenekçilik, algoritmik ırkçılık ve cinsiyetçilik ile yan yana oynar veya onlarla kesişir. Algoritmik düşünme ve uygulamaların, örneğin tıbbi açıdan ırkçı uygulamaları – örneğin, böbrek testindeki ırksal olarak önyargılı algoritmaları – veya kredi derecelendirme uygulamalarının cinsiyetçiliğini nasıl şekillendirdiği konusunda çok fazla çalışma yapıldı. Birden çok demografik özellikten yararlanan algoritmalar, en çok beyaz olmayan engelli kadınlara zarar verme eğiliminde olacaktır.

Yetenekçiliği yeni nesil teknolojilerden söküp atmak

Ancak, tipik kullanıcınızı Instagram akışlarının veya Twitter zaman tünelinin dışına çıkardığınızda ne olur? Chock’un çalışmalarının bir kısmı, sanal gerçeklik (VR) ve metaverse gibi sürükleyici ortamları incelemektir. O ortamda önyargı kaynaklarının değişme eğiliminde olduğunu söylüyor. Bir kullanıcının bu tür ortamlarda yaptığı seçimler, geliştirme aşamasındaki göz izleme teknolojisi gibi araçların kullanımıyla vurgulanan tipik sosyal etkileşime daha yakın olduğu için, yürütülen tıklamalar veya arama terimleriyle daha az ilgilidir. Chock, kapsayıcılık ve erişilebilirliğin belirli yönleri söz konusu olduğunda yeni bir sınırda olmanın bir avantaj olduğunu söylüyor.

“Bu, daha sonra gidip kaldırım kesmeleri ve bunun gibi şeyler yapmanız gereken bir durum değil. Önyargı miktarını azaltan şeyler deneme ve sisteme yerleştirme yeteneğine sahibiz, bu onu tamamen ortadan kaldırmayacak, ancak önyargı miktarını azaltacak ve ayrımcılık miktarını azaltacaktır.”

Peki, BT çalışanları algoritmik yetenekler konusunda ne yapabilir? İdeolojik veya misyon açısından Banner, sektörde çalışanların teknoloji alanında tarihsel olarak kimin ayrıcalıklı olduğunu anlamaları gerektiğini ve bu algoritmik önyargıların aynı olgunun başka bir versiyonu olduğunu söylüyor.

“BT uzmanları farklı bir şekilde nasıl tasarım yapacaklarını düşünmek istiyorlarsa kendilerine şu soruyu sormalıdırlar: Bu algoritmanın normu kimdir? Bu algoritma kime ayrıcalık tanıyor ve başka türlü tasarlanabilir mi? Bu algoritma, yoksul, engelli beyaz olmayan kadınları nasıl etkileyecek? 

“Engelli kişilerin aracı olduğu ve tasarım sürecine katıldığı teknolojilerin dahil edilmesini, onlara danışılmasını veya başka bir şekilde tasarlanmasını tavsiye ederim. “Biz olmadan bize dair hiçbir şey yok!” eski usul bir sakatlık aktivisti sloganıdır. 20. yüzyılda olduğu gibi 21. yüzyılda da geçerli.”

Makalenin orjinal kaynağını bu linkten okuyabilirsiniz.