Anasayfa » GÜNÜN İÇİNDEN » Yapay Zekâ | İyimser olmak için erken (2 bölüm birlikte)

Yapay Zekâ | İyimser olmak için erken (2 bölüm birlikte)

(I): Yapay Zekâ ve dijital emek

Eleştirel bir Yapay Zekâ tartışması yürütmek ve YZ’nin hem tarihsel hem güncel hem de geleceğe ilişkin konumlanışını, herhangi bir teknodeterminizme (teknoiyimser veya teknokötümser) düşmeden anlatmak, toplumun YZ okuru olmasını ve kârdan başka amacı olmayan şirketlerin, toplumu izlemek isteyen devletlerin ve dolayısıyla içerisinde yaşadığımız kapitalist sistemin mevcut durumunun daha iyi bir şekilde anlaşılmasını ve eleştirilmesini sağlayacaktır

Yapay Zekâ (YZ) günümüzde özellikle derin öğrenme yöntemlerinin yaygınlaşması ve kullanımının kolaylaşmasıyla popülerleşen bir konu. Başta aşırı uzmanlaşmış ve dar bakışlı kişiler olmak üzere her alandan farklı insanın farklı açılardan ele almaya çalıştığı, eleştirdiği bir konu YZ. Ancak hayatı çok boyutlu ve karmaşık bir şekilde etkileyen YZ’ye yönelik, bekleneceği üzere eleştiren kişilerin uzmanlık ve bakış açısına göre farklılaşan eleştirilerin önemli eksiklikleri olduğunu düşünüyorum.

Bu yazıyı yazmama neden olan Türkiye’de basılan iki kitap: 2019 yılında Bilim ve Gelecek yayınevinden çıkan Cem Say’ın 50 Soruda Yapay Zekâ kitabıyla[1] Yordam Kitap tarafından basılan Erkin Özalp’ın Gençlerle Baş Başa: Yapay Zekâ[2]. Bu kitaplar hem yayınevleri hem de yazarlarının toplumsal bakış açıları nedeniyle dikkatimi çektiler.

Yazarlarına, editörlerine ve yayınevlerine Türkiye’de, Türkçe olarak belirli bir eleştirellik ve tartışma ortamı yarattıkları için öncelikle teşekkür etmek gerekiyor. İnsanlara güncel bir konu hakkında erişilebilir ve popüler bir kitap aracılığıyla bilgi vermek ve kafalarında soru işaretleri yaratmak, uzmanlarla ve uzman gözükenlerle çevrilmiş ve bilginin toplumsallaşmasını ve hakikatın topluma ulaşmasını engelleyen ve hatta hakikatı çarpıtan farklı araçların söz konusu olduğu bu dönemde oldukça önemli. YZ özelinde bu çok daha fazla önem arz ediyor. Tarihsel olarak bilimkurgunun ve şirketlerin pazarlama stratejilerinin etkisiyle insanlar ya robotlar dünyayı ele geçirecek hepimizi köleleştirecek ya da robotlar bizim için çalışacak veya beyinlerimiz bilgisayara yüklenecek ve biz de zevki sefa içerisinde sonsuza kadar mutlu yaşayacağız algısına sahip oluyorlar. İzlem Gözükeleş’in iki farklı yazısında ele aldığı gibi tarih teknoloji mitleriyle dolu. Teknoloji dünyasındaki farklı şirketler ve kişiler tarafından, belki de farklı amaçlarla (kâr amacı, popülerlik, daha fazla fon kazanma vb.) “her önemli teknolojik değişimden sonra benzer tezler yineleniyor, söz konusu teknolojinin her şeyi değiştireceği, hiçbir şeyin artık eskisi gibi olmayacağı, tarihin sonunun geldiğini öne sürülüyor” [3] [4]. Bütün bu algıları kırıp eleştirel bir Yapay Zekâ tartışması yürütmek ve YZ’nin hem tarihsel hem güncel hem de geleceğe ilişkin konumlanışını, herhangi bir teknodeterminizme (teknoiyimser veya teknokötümser) düşmeden anlatmak, toplumun YZ okuru olmasını ve kârdan başka amacı olmayan şirketlerin, toplumu izlemek isteyen devletlerin ve dolayısıyla içerisinde yaşadığımız kapitalist sistemin mevcut durumunun daha iyi bir şekilde anlaşılmasını ve eleştirilmesini sağlayacaktır.

Bu girişten sonra ele almak istediğim konu tam da önceki paragrafın son cümlesinde gizli. Her ne kadar bu iki kitabı tamamen aynı şekilde konumlandırmak doğru olmasa da, yukarıda da söylediğim gibi yazarların ve yayınevlerinin toplumsal bakış açıları nedeniyle aynı safta konumlandırıyorum. İki kitap konuyu farklı şekillerde ve farklı yöntemlerle ele alıyor.

Önemli bir YZ araştırmacısı olan Cem Say’ın kitabını özellikle Bilgisayar Mühendisliği, Bilgisayar Bilimleri veya ilişkili bölümlerinde okuyan, bu konulara ilgili kişilerin oldukça seveceğini düşünüyorum. Gerçekten iyi yazılmış, tarihi ve teknik konuları iyi bir şekilde ele almış, ilgi çekici popüler bir bilim kitabı. Ancak (yazarın böyle bir amacı yok belki de, olmak zorunda da değil) kitabın özellikle kapitalizm ve sistem eleştirisi konusunda, YZ araştırmalarındaki ve araştırmacılarındaki hem tarihi hem de günümüzdeki durumu anlatma açısından eksik kaldığını düşünüyorum.

Erkin Özalp farklı bir yöntem kullanıyor. Gençlerle sohbet havasında bir kitap yazmış ama kimi zaman fazlasıyla teknik konulara girmesi, bazı çok bilinen örnekleri paylaşması ve oldukça görünür olan konulara, eleştirel Marksist bir kişi olduğunu düşündüğüm kendisinden beklediğim kadar derin ve çok boyutlu yaklaşmaması kitabın yetersizlikleri olarak gözüme çarptı.

Bu yüzden bu yazıyı, kendimce bu kitaplarda ve güncel tartışmalarda eksik bulduğum bazı konuları ve eleştirileri bir bütün olarak aktarmak ve sağlıklı bir tartışma başlatmak, insanlara YZ ve Teknoloji ekseninde farklı konuları duyurmak amacıyla yazıyorum. Ayrıca bir diğer amacım da son dönemde Sendika.Org için kendi içlerinde bir bütünlük oluşturacak şekilde yaptığım çevirileri[5] ve sözü edilen önemli haberleri ve kaynakları da ele almak.

Yazının sonraki kısımlarında öncelikle teknoloji üretimine ilişkin farklı emek biçimlerinden örnekler vererek dijital emek kavramından söz edeceğim, sonraki bölümde kapitalizmle teknoloji ve YZ arasındaki ilişkiyi ele alacağım. Ondan sonra da YZ ile çalışma yaşamı, YZ ile yanlılık ve YZ ile iklim krizi arasındaki bağlantıları özetlemeye çalışacağım. Son olarak sorunların çözümüne ilişkin görüşlerimi paylaşarak yazıyı sonlandıracağım.

Dijital Emek ve Silikon Vadisi Yapay Zekâ konusuna girmeden önce, YZ için bir temel oluşturan bilişim ve dolayısıyla teknoloji üretim sürecine bakmanın yararlı olacağını düşünüyorum. Bilişim, teknoloji ve dolayısıyla YZ’nin oluşturulması için dünyanın farklı mekânlarında gerçekleşen farklı üretim aşamaları ve farklı emek biçimlerini anlamanın, sürekli kullandığımız bilişim aygıtlarının ve ürünlerinin elimize ulaşması için maruz kalınan, normalde pek söz konusu edilmeyen sömürü biçimlerini görünür kılmak için gerekli olduğunu düşünüyorum.

İçerisinde yaşadığımız çağı şekillendiren ve yaşamımıza hem olumlu hem de olumsuz anlamında etkileri olan teknoloji, dünya çapında küresel bir üretim sürecine sahip, dolayısıyla farklı ülkelerdeki farklı emek bileşenlerinden oluşuyor[6].

Örneğin başarılı bir YZ ürünü olarak kabul edilen ve Amazon tarafından yoğun bir şekilde satılan Amazon Echo cihazının üretim sürecini inceleyen Kate Crawford ve Vladan Joler, aygıtın insan emeğini, verisini ve gezegen kaynaklarını kullanımını ele aldıkları ayrıntılı bir harita oluşturmuşlar[7]. “Doğumdan” başlıyorlar, gezegenin hangi kaynaklarının ne koşullarda çıkarıldığını, bu kaynakların hangi emek biçimleriyle ne şekilde ürüne dönüştürüldüğünü, aygıtın başarılı çalışması için ne tür veriyi kullandığını anlattıktan sonra nihayetinde “öldüğü” zaman atık olarak nasıl tekrar gezegene döndüğünü gösteriyorlar. “Doğum, yaşam, ölüm” aşamalarını ele alırken, zamansal olarak bu akıllı aygıtın nasıl da geniş bir emek, veri ve yenilenemeyen kaynak çıkarmaya odaklanmış, Bolivya’dan Çin’e her yere yayılmış bir gezegen ağına ihtiyaç duyduğunu anlatıyorlar.

Christian Fuchs enformasyon ürünlerinin üretildiği süreci Uluslararası Dijital İşbölümü olarak adlandırıyor. Dünyanın çeşitli bölgelerinde, birbirleriyle kısmen anonim olarak ağ kuran ve hepsi de dijital uygulaması, kullanımı ve üretimi için gerekli olan öğeleri oluşturan çeşitli emek, sömürü ve üretim şekillerini içeren bir işbölümüdür. Aşağıda özetlediğim farklı emek biçimleri ve dijital işbölümüne ilişkin daha kapsamlı ve kuramsal bir inceleme için Christian Fuchs’un Notabene Yayınları’ndan çıkan Dijital Emek ve Karl Marx kitabı incelenebilir[8].

İlk emek biçimini, çoğu kişinin farklı şekillerde haberdar olduğu Kongo’daki çatışma madenlerinde görüyoruz. Bilişim için gerekli olan madenlerin çoğu Afrika ve Çin’de çıkarılırken, eritilmesi, işlenmesi ve zenginleştirilmesi genelde elektronik piyasasına ürün tedarik eden Tayland, Malezya, Çin ve Endonezya gibi Asya ülkelerinde gerçekleşiyor. Savaş ekonomisi şartları altında bulunan Doğu Kongo Cumhuriyeti’ndeki özelleştirilmiş ticari faaliyetlerde elle madencilik yöntemleri kullanılıyor, madenciler makineler yerine ellerini, kazmaları, kürekleri, sivri kazmaları, levyeleri, çelik çubukları, çelik sopaları, kovaları ve ipleri kullanıyorlar. Madencilik işinin özelleştirilmesi, bölgesel toplulukların zoraki yer değiştirmesine ve ırmakların, havanın ve ekilebilir arazilerin kirletilmesine olduğu kadar bölge sakinlerinin karar alma süreçlerinin ve istihdamın dışında kalmalarına neden olmuştur. Bölgede silahlı gruplar tarafından zorla çalıştırılma, borçlandırma, cinsel istismar, zorla evlendirme, çocukların silahlı gruplarca kullanılması ve zorla çalıştırılması gibi modern köleliğin belirgin biçimlerine rastlanıyor.

Bu iş bölümünde ikinci emek biçimini Foxconn örneğinde gördüğümüz düşük ücretle, düşük iş ve sosyal güvenceyle, düşük vasıfla, tekrar eden ve emek yoğun çalışmayla, işçi sağlığı tehlikesiyle ve uzun çalışma saatleriyle nitelenen enformel mevkilerde çalışan montaj işçileri oluşturuyor. Bu montaj işçileri Taylorist bir mantığı çağrıştırıyor. Foxconn şirketini 2010 yılındaki 14’ü ölümle sonuçlanan 18 işçinin intihar girişimiyle hatırlıyor olabilirsiniz[9].

Üçüncü emek biçimi Hindistan’daki yazılım geliştiricilerdir. ABD ve Avrupa’daki eşdeğerlerine göre çok düşük ücretlerle kötü koşullarda taşeron aracılığıyla çalışmak zorunda kalıyorlar. Hem bedensel hem de sanal olarak kendilerine ihtiyaç duyulan yere taşınıp işlerini yapıyorlar. Yüksek nitelikli işgücü olsalar da, tarihsel olarak Hindistan’ın sömürge hali, başka bir biçimde devam ediyor.

Ve geldik nitelikli ve bol kazançlı Silikon Vadisi’ne. Her ne kadar çok “başarılı” ve milyar dolarlık şirketleriyle bilinse de aslında Silikon Vadisi hem düşlerin hem de kabusların mekânı. Bir uçta yüksek maaşlı, ama çok yoğun çalışan ve sömürülen profesyoneller, bir tarafta özellikle göçmenlerin oluşturduğu düşük ücretli, kötü koşullarda çalışan yarı vasıflı/vasıfsız üretim ve hizmet işçileri. Aslına bakarsanız yüksek maaşlı büyük şirketlerde çalışmak da ne kadar iyidir tartışılır. Size her şeyi ofiste sunarak aslında başka bir yaşam için zaman bırakmayan bir iş ister miydiniz? Yoksa her şeyin bedava sunulması yine de olumlu mudur?[10] Üstelik Silikon Vadisi’nin sıkıcı, uzağı göremeyen, cinsiyetçi, sınıf ayrımcı ve ırkçı olduğunu gösteren birçok örnek de var[11] [12].

Çağrı merkezi çalışanlarından[13], sosyal medyada, platformlarda, dünyanın en kötü içeriklerine maruz kalarak çalışmak yoğun bir duygusal emek de harcayarak günde binlerce içeriği incelemek, okumak ve gözden geçirmek zorunda olan içerik denetleme çalışanlarından[14] [15], dünyanın diğer yerlerindeki bilgisayar oyuncuları uyurken onlar için “deneyim/altın çiftçisi” görevi gören saatlerce bilgisayar başında kalan doğudaki ucuz ve güvencesiz oyuncu işçilerden[16] [17] [18], muazzam miktardaki veri üzerinde düşük ücretle, makine öğrenmesi (MÖ) yöntemlerinin daha iyi çalışması için veri hazırlayan, örneğin resimler üzerinde nesneleri seçen ve işaretleyen, tıpkı zamanındaki parça başı iş yapan işçilere benzeyen etiketleme işçilerinden[19] [20] [21] ve doğal dil işleme araçları için çalıştırılan mahkumlardan[22] söz etmedik bile. Düşünün, Çin’de YZ etiketleyici olarak çalışan Yin günde 300 resmi etiketliyor ve kişisel rekoru tek bir vardiyada 14000 arabayı etiketlemek [23]. Ayda yaklaşık olarak 450 dolar kazanıyor, fabrikada çalışan işçilerden daha fazla ama gün boyu hareketsiz bir şekilde bilgisayar başında sürekli etiketleme yapması gerekiyor. Bana sorarsanız oldukça zahmetli bir iş.

Bütün bu dijital emek süreci, kapitalizmdeki yoğun bir adaletsizliği ve eşitsizliği bize tekrar gösteriyor. Kongo’daki bir madende çalışan çocuk işçinin, Amazon CEO’su Jeff Bezos’un tek bir günlük gelirini kazanması için hiç durmadan 700000 yıl çalışması gerekiyor[24]. Diyelim ki bu örneği beğenmediniz, sadece Amazon üzerinden başka bir örnek verelim: Amazon işçilerinin ortalama yıllık maaşı 28000 dolar, Jeff Bezos 10 saniyede bundan çok daha fazlasını kazanıyor [25].

Günümüzün otomasyon devrimi bir bakıma sanayi devrimi dönemini andırıyor, o zamanlar makineleşmenin yol açtığı gibi bugün robotik, YZ ve MÖ alanlarını da içeren birçok karmaşık meslekler şeridi yarattığı gibi, emeğin doğasını, yapısını ve örgütlenişini dönüştürüyor[26]. Bu dönüşümü, kapitalizmi, sömürüyü ve bütün bunların etkilerini anlamadan ne YZ’yi, ne teknolojiyi ne de mevcut sorunları doğru bir şekilde anlayabiliriz.

  • Yazıyı okuyup görüşlerini paylaşan ve yazının daha anlaşılır olmasına katkı sağlayan Elem, Elif, İlker ve Diyar’a teşekkür ederim.

2. Bölüm): Kapitalizm, teknoloji ve Yapay Zekâ

YZ’nin diğer bir kullanım alanı da işçilerin her türlü şekillerde gözetlenmesi ve denetlenmesi. Dijitalleşmeyle birlikte sizin her yaptığınızı izleyen kameralar ve sizi daha hızlı çalışmaya zorlayan Taylorcu otomatikleşmiş tezgâhlar, yürüme bantları ve hatta çok daha fazlası söz konusu. Dijital araçların erişilebilirlikleri arttıkça kullanımları da artıyor. Bir bakıma ücretli köleliğin 18. yüzyıl köleliğini andıran araçları haline geliyorlar

Kapitalizmin Yapay Zekâ’yı insanları boyunduruk altına almaya yönelik kullanmasına ilişkin çarpıcı örnekleri sürekli duyuyorduk. Ancak dünya COVID-19 salgını yaşarken çok daha görünür oldu. Bu yaşadığımız dönem aslında bize olumlu ve iyimser olarak gösterilen kimi teknolojik gelişmelerin nasıl da kolayca aleyhimize kullanılabileceğini göstermiş oldu.

Örneğin çevrimiçi denetim görevi bir süredir kısmen algoritmalar tarafından yapılıyor. Ancak COVID-19 ile birlikte bu işin daha fazla otomatikleştirilmesi gerekti[1]. Bu otomatikleşmenin şirketler tarafından bir sansür mekanizması olarak nasıl kullanılabileceğine ilişkin çeşitli örneklerle karşılaştık. New Yorker yazarı Paige Williams, Mart ortalarında virüsün yayılmasını önlemeye ilişkin güvenilir bir kılavuz göndermeye çalıştığında, gönderisi Facebook tarafından spam olarak sansürlendi[2]. Sağlık çalışanları için kritik yüz maskesi eksikliğine bir yanıt olarak gönüllüler binlerce ev yapımı maske diktiler ve Facebook üzerinden bağışlamaya çalıştılar, fakat kendilerini “Facebook nezaretinde” buldular[3]. Yazılım onların iyilikseverliğini, bir krizden çıkar sağlama çabasından ayırt edemiyordu, bu yüzden bu gönderiler ve bir sürü başka gönderi yanlışlıkla sansürlendi ve birçok hesap tümüyle askıya alındı[4]. Üstelik bütün bu görevleri üstlenirken de vergi ödemekten kaçınıyorlar[5], bize farklı şekillerde zarar verebilecek teknolojilerde (koronavirüs takip ve protesto gözetleme uygulamaları için, YZ modellerini eğitmek için) kullanmak üzere bizimle ilgili kusurlu veriyi topluyorlar[6].

Bu sosyal medya ve İnternet kullanımımız üzerindeki denetim ve sansür çabalarını gösteren tek bir şirket örneği. Google’nin arama motoru tekeli[7], Facebook’un sosyal medya paylaşım platformları tekeli[8], Amazon’un alışveriş tekeli[9] olduğunu düşündüğümüzde, çevrimiçi yaşamımızın büyük şirketlerin denetiminde olduğunu çarpıcı bir şekilde görüyoruz. Tarihe bakıp büyük teknoloji şirketlerinden IBM’nin Nazilerin gerçekleştirdiği soykırımdaki işlevi[10] ve IBM 360/50’nin Güney Afrika’da Siyah nüfusu izlemeye yönelik olarak polisin bilgi sahibi olmasını güvence altına alacak şekilde Irkçı Apartheid rejiminin korunması için kullanıldığını[11] gördüğümüzde, teknoloji konusuna eleştirel yaklaşmak şart oluyor.

Tekeller bununla da yetinmiyor. Dünyamız COVID-19 sonrası yeni bir refah dönemi tartışmaları yaşıyor. Ancak bu dönem João Carlos Magalhães ve Nick Couldry’ın yazdığı gibi bu süreç özel şirketler tarafından yürütülmek ve nihai amacı daha fazla kâr elde etmek olan bu şirketlerin araçları ve platformları kullanılmak isteniyor[12]. Verileştirmenin şeffaf olmayan ve müdahaleci biçimlerine dayanacaklarını söylerken, salt (zaten gerçekleşen) gözetimin yoğunlaşmasını değil, birbiriyle bağlantılı iki süreci kast ediyorlar: “insan yaşamının nicelleştirme süreçleri aracılığıyla veriye dönüştürülmesi ve veriden farklı türde değerlerin üretilmesi”. Verileştirilmiş refah sistemlerinin, Büyük Veri şirketlerini, devletin ve toplumun temel işlevi açısından gerekli kurumlar olarak pekiştireceğini ve bunun gerçekleşmesiyle neoliberalizmden önceki dünyaya bir dönüşü değil, Nick Couldry ve UIises A. Mejias’ın geçenlerde veri sömürgeciliği[13] olarak adlandırdıkları, yeni bir toplumsal düzenin ortaya çıkışını göreceğimiz öngörüsünde bulunuyorlar.

Refah düzeni için gerekli olarak gösterilen verileştirmenin bir sonucu da yurttaşların kendi geleceklerine karar vermede özgürlüklerinin ellerinden alınıp, bir veri kümesindeki veri noktaları haline gelmeleri olacaktır[14]. Verileştirmeye ilişkin çarpıcı bir örneği günümüzde Çin’de görüyoruz. Gerçek dünyayla etkileşim ve davranışların yorumlanmasına dayalı olarak bireylerin dijital profilleri oluşturuluyor ve bu profiller nicelleştirilerek çok boyutlu bir “toplumsal itibar” inşasında kullanılıyorlar ve tek bir skor hesaplanıyor. Toplumsal kredi sistemi adı verilen bu sistemle bütün yurttaşların ve şirketlerin devletin ülküsüne göre şekillendirilmesi amaçlanıyor[15].

Bu örnekler bize çarpıcı bir gerçeği de gösteriyor. Gün geçtikçe şirketler ve devletler yaşamlarımızı daha fazla denetliyorlar. Bazı durumlarda hükümetin yaptığı görevleri de üstlenmek istiyorlar. Çin örneğinde gördüğümüz üzere bizleri salt birer veri noktasına indirgemek, her kararı bu veri noktası üzerinden vermek istiyorlar. Bu durum, bize dayatıldığı şekilde indirgenmiş insanlar olmamak için ciddi bir şekilde karşı çıkmamız ve mücadele etmemiz gereken karamsar bir gelecek.

Yapay Zekâ ve çalışma yaşamı Bir başka boyut, tüm teknoloji ürünlerinin kapitalizmin baskıcı niteliğini güçlendirmek için kullanılması gibi, YZ’nin de çalışma hayatımızı gözetlemek ve denetlemek amacıyla kullanılıyor olmasıdır. Bu gözetimin önemli bir boyutu çalışma alanlarında karşımıza çıkıyor. En bilinen örneklerden biri Başvuru Sahibi İzleme Sistemi (Applicant Tracking System) adı verilen bilgisayar tabanlı araçlar veya makine öğrenmesi yöntemleri aracılığıyla bir iş başvurusu için gönderilen özgeçmişleri sınıflandırmak için kullanılan sistemler. Bu sistemlerin kullanımı gün geçtikçe daha fazla artıyor ve çalışma yaşamı sözkonusu olduğunda iş başvurusundan işyerinde çalışmaya kadar geniş bir insan analitiği kullanımı da sözkonusu oluyor. İnsan analitiği özellikle yöneticilerin, işçiler hakkında toplanan veri kümeleri boyunca desenleri saptayabildiği ve karşılaştırabildiği bir sürece dayanan birtakım insan kaynakları (İK) faaliyetlerine verilen isim[16]. Nicelleştirmeyle birlikte büyük veri, algoritmalar ve makine öğrenmesi dijitalleşmiş işe alım başta olmak üzere farklı amaçlarla kullanılıyor. Örneğin yetenekli insanların fark edilmesi, mülakatlar, liderlik tahmini, bireysel işçi performansı, işçilerin sağlık örüntüleri ve diğer işletme yönetimi hususları bu araçlar yardımıyla dijital olarak destekleniyor. Her türlü süreçte karar veren algoritma olduğunda şirketler ve yöneticileri kendilerince sorumluluktan kaçmış ve suçu “tarafsız” olduğu iddia edilen bir sisteme yüklemiş oluyorlar. Bunun işçiler üzerinde yarattığı stresi ve mikro-yönetim sonuçlarını düşünün. Üstelik bu sistemlerin sonuçlarını, sadece girdisini ve çıktısını görebildiğimiz, ancak içsel olarak ne yaptığını bilmediğimiz kapalı bir kutu şeklinde ürettiğini düşündüğümüzde, açıklanabilirlik konusunda yapılabilecek fazla bir şey olmadığını anlayabiliyoruz. Cathy O’Neill Matematiksel Yıkım Silahları kitabında şirketler ve kurumlar tarafından kullanılan bu kapalı kutuların, popüler algoritmaların nasıl da yoksul ve çalışan insanlara zarar vererek seçkinlere yarar sağladığını anlatıyor[17].

YZ’nin diğer bir kullanım alanı da işçilerin her türlü şekillerde gözetlenmesi ve denetlenmesi. Dijitalleşmeyle birlikte sizin her yaptığınızı izleyen kameralar ve sizi daha hızlı çalışmaya zorlayan Taylorcu otomatikleşmiş tezgâhlar, yürüme bantları ve hatta çok daha fazlası söz konusu. Dijital araçların erişilebilirlikleri arttıkça kullanımları da artıyor. Bir bakıma ücretli köleliğin 18. yüzyıl köleliğini andıran araçları haline geliyorlar[18]. Amazon’un sahibi olduğu Whole Foods şirketinin, sendikalaşma faaliyetlerini izlemek için her bir mağazasının sendikalaşma olasılığı için bir skor hesaplayarak, etkileşimli “ısı haritası” kullanması çok çarpıcı bir örnek olarak göze çarpıyor[19] [20]. Her bir çalışanın ve mağazanın sadakat, ciro, sendikaya yakınlık vb. gibi farklı ölçütlerle tahmin yürütülüyor ve sonuçlar Amerika çapında durumu, yüksek olasılıklı yerleri kırmızı olarak gösteren ısı haritasında görselleştiriliyor. Benzer güncel bir tartışma yine Amazon’un işçileri COVID-19 bahanesiyle “sosyal mesafeyi” koruyup korumadıklarına ilişkin YZ’den yararlanan bir “dijital asistan” aracılığıyla izlemesiyle ortaya çıktı[21]. Her ne kadar Amazon bunu hız uyarı radarlarına benzetse de, çoğu kişi Amazon’un işçi düşmanı geçmişi nedeniyle temkinli yaklaşıyor ve yine sendikalaşmak için bir araya gelmeye çalışanları bu bahaneyle izleyeceklerini ve engelleyeceklerini düşünüyorlar.

Daha yoğun bir şekilde işçileri robotlaştıran dijital kullanımlar da gittikçe yaygınlaşıyor. Makineyi biz mi kullanıyoruz yoksa makine bizi mi kullanıyor ayrımının iyice silikleştiği performansa ve ölçüme dayalı nicelleşmiş yaşamlar ortaya çıkıyor. Çarpıcı bir örnek Amazon ikmal merkezi işçilerinde görülebilir. Mesaide: Düşük Ücretli İş Bana Ne Yaptı ve Amerikayı Nasıl Delirtiyor[22] adlı kitabında çalıştığı farklı işleri yazan Emily Guendelsberger, Amazon ikmal merkezinde çalışırken Taylor’ın “tasavvurunun cisimlendiği” dijital bir düzenle karşılaştığını söylüyor[23]. Orada bir “toplayıcı” olarak çalışan Guendelsberger belinde bir tarayıcı tabancası taşımak zorunda bırakılıyor, bu tarayıcı konumunu izliyor, ona raflardan gidip yüz binlerce eşya arasından alması gereken eşyayı, o eşyanın konumunu ve o eşyayı almak için ne kadar süresi olduğunu tam bir kesinlikle söylüyor. Saniyeler geçtikçe geriye doğru sayan bir kayan çubuk onu sürekli uyarıyor. Muazzam boyuttaki tesiste rafı tespit edip, kutuyu inceleyip, eşyanın etiketini okutur okutmaz hemen bir sonraki alması gereken paket görüntüleniyor. Algoritmaların baştan sona hakkımızda her türlü kararı verdiği ve bizi sürekli daha üst düzey bir performansa zorladığı bir yaşama ne denir?

Yapay Zekâ ve yanlılık Dediğim gibi Yapay Zekâ’nın, özellikle de önemli bir alanı olan Makine Öğrenmesi ve onun alt alanı Derin Öğrenme veriye dayalı olarak yaşamlarımızı şekillendirmek için gittikçe daha fazla kullanılıyor. Bu iki alanın en önemli özelliği, ilgili araçların geliştirilmesi için yöntemlerinin veriye (muazzam miktarda veriye, bu noktada büyük veri ile bir ilişki de ortaya çıkıyor) ihtiyaç duymaları. Bu yöntemlerin karar alma yetenekleri bu veriyle eğitilmeleri sonucunda gelişiyor. Dolayısıyla veride ne varsa onu öğreniyorlar[24]. Elbette bazı makine öğrenmesi sistemleri veriden bağımsız olarak da yanlı olabilir. Yanlılığın nedenleri arasında veriyi (nasıl toplandı ve biçimlendirildi), öznitelikleri (nasıl tasarlandılar), modeli ve mimarisini, amaç fonksiyonunu ve nasıl kurulduğunu sayabiliriz. Tarafsız ve doğru veriye ulaşmak ve toplamak zor, doğru tasarlamak veya doğru tercihlerde bulunmak da yoğun bir çaba gerektiriyor, çünkü bunları etkileyen birçok faktör var. Dolayısıyla doğru/iyi tasarlarız, doğru veri toplarız, doğru tercihlerde bulunuruz diyerek yansız bir sistem üretmek gerçekte neredeyse imkânsızdır. Mehrabi vd.[25] MÖ’deki yanlılık ve adalet üzerine yaptığı incelemede veride olabilen 23 farklı yanlılık türü ve algoritmaların adil olmasını etkileyen 6 farklı ayrımcılık türü listeliyor, sadece bu liste bile bu işin ne kadar da zor olduğunu özetliyor.

Yanlılıkta en önemli nedenin genellikle veri olduğu kabul ediliyor. Çünkü eğitim için kullanılan veri özünde ırkçıysa, ayrımcıysa, cinsiyetçiyse, sonuç olarak eğitilen yöntem de bu özelliklere sahip oluyor. Çünkü eğitim için kullanılan veri yoktan var olmuyor. O verinin mevcut sistemlerden toplanması gerekiyor. Bu mevcut sistemler (farkında olalım veya olmayalım) içerisinde yaşadığımız kapitalist sistemin yaratmış olduğu sınıflı toplumun, kullandığımız dillerin ve hatta bu sistemleri geliştirenlerin yıllardır süregelen ırkçı, ayrımcı, cinsiyetçi eğilimlerini ve yanlılıklarını barındırıyorlar. Üstelik veride oldukça az miktarda bir yanlılık varsa, eğitilen sistemde bu yanlılık daha da büyüyebiliyor.

Örneğin insan dillerinin farklı şekillerde yanlılık ve ayrımcılık içerdiğini biliyoruz, dolayısıyla algoritmalar insan dillerini bir şekilde öğrendiğinde kaçınılmaz bir şekilde bu yanlılıkları da öğreniyorlar[26]. Çünkü eğitilmeleri için kullanılan verinin tam da kendisi bu dillerden geliyor. Dolayısıyla sağlık hizmetleri, adalet hizmetleri, reklamcılık ve birçok toplumsal alana hızlıca ve yoğun bir şekilde bütünleşen YZ’nin yarattığı olumsuz yanlılık örnekleri de gün geçtikçe daha da artıyor ve gündeme geliyor.

Amazon’un otomatik işe alım aracına ilişkin haberlerde bu sorunların oldukça etkileyici bir örneği var. Bu araç “iyi” ve “kötü” adaylar arasında ayrım yapmayı “öğrenmek” için, şirketin önceki işe alım kararlarından oluşan muazzam bir veri külliyatıyla eğitilmişti. Sonuç, belki de bekleneceği üzere, kadınlara karşı ayrımcılık uygulayan bir işe alım aracıydı, hatta içerisinde “kadın” veya “kadınlar” geçen özgeçmişlerin önemini oldukça düşürüyordu. Amazon mühendisleri sorunu düzeltmeye çalıştılar, algoritmayı yanlı tercihlerini hafifleterek ayarlamaya çabaladılar, ancak nihayetinde düzeltilemez sonucuna vararak projeyi ıskartaya çıkarmak zorunda kaldılar[27]. Bu durum bu sorunların iç içe geçmiş doğasını sergiliyor: öncelikli sorun (çoğu benzeri şirkette olduğu gibi) Amazon’da da önemli konumlarda geliştirici, yönetici vb. olarak çalışanlar çoğunlukla beyaz, hetero erkekler. Çünkü bu insanlar yaşamları boyunca belirli bir ayrıcalığa sahip olarak, belirli koşullarda daha iyi eğitim alarak ve çalıştıkları şirketlerde yıllardır mevcut benzeri kişilerin açık ve örtük desteğiyle konumlarını elde etmede bir sıkıntı yaşamıyorlar. Beyaz hetero erkekler; kadınları, eşcinselleri, transları, siyahları (yetersiz buldukları için veya rahatça ırkçı, cinsiyetçi vb. şaka yapamayacakları için olabilir) işe almıyorlar. Böylece adayları tasnif eden sistem Amazon’da eskiden beri süregelen bu ayrımcı işe alım kalıplarını yansıtıyor, bu kalıplar daha sonra otomatik sistemler tarafından güçlendiriliyor. Bu sistemler ayrıca teknoloji sektöründeki mevcut aday havuzunun ve çalışanların ne kadar da asimetrik ve orantısız bir hâle geldiğini görünür kılma işlevi de görmüş oluyor.

Son günlerdeki bir başka çarpıcı örnek Barack Obama’nın düşük çözünürlüklü bir fotoğrafının piksellerden temizlemek için kullanılan bir makine öğrenmesi yöntemine (PULSE tabanlı[28]) girdi olarak verilmesi ve Beyaz bir Obama sonucuyla karşılaşılmasıdır[29] [30] [31]. Bu durum salt Obama’yla sınırlı değil. Bu yöntem başkalarını da “beyazlaştırıyor”. Elbette bu MÖ araştırmacıları ve mühendisleri arasında da sorunu teknik olarak çözme yönünde bir tartışma yarattı. Facebook YZ şefi Yann Le Cunn da tartışmaya “veri yanlıysa, MÖ sistemleri de yanlıdır” şeklinde katıldığında, birçok kişiden doğru verinin haksızlıkları çözmeyeceği veya “adil” veri kümesi gibi bir şeyin pek mümkün olmadığı şeklinde tepkiler aldı. Üstelik Timnit Gebru gibi araştırmacılar yanlılığın verinin ötesine nasıl geçtiğini, kimlerin zarar gördüğünü anlatmaya çalışıyor, araştırmacıların bu gibi yöntemler araştırırken, geliştirirken, veri toplarken, konuşlandırırken, sınarken, kullanırken ötekileştirilmiş topluluklarla ve kişilerle konuşmasını öneriyorlar[32]. Ayrıca toplumsal olarak daha sorumlu ve etiğe dikkat eden araştırmanın nasıl yapılabileceğine ilişkin öğrenceler sunuyorlar[33]. Her şeye rağmen bu örnek bir yandan bize Yann Le Cunn gibi teknik ve araştırma anlamında çok yetkin kişilerin, gerçeklikten nasıl da habersiz ve her şeyi teknik bir şekilde çözebileceğine ilişkin dar bir bakış açısına sahip olduklarını gösteriyor. Her şeyi teknik bir şekilde teknolojiyle çözmek Silikon Vadisi’nin aşırı teknoiyimser alışkanlığı. Vidushi Marda’nın da söylediği gibi[34] bu verilerde bir “çeşitlilik” veya “gelişmiş doğruluk” başarımı çağrısı olmamalı, bu teknolojiyi tasarlayan, geliştiren ve konuşlandıran bireylere ve kurumlara yönelik tekrar değerlendirme çağrısı olmalıdır.

Bu yanlılığa ve ayrımcılığa ilişkin örnekleri arttırmak mümkün[35]. Ancak sorun sadece yöntemlerle ve veriyle de sınırlı olmak zorunda değil. Silikon Vadisi’nin ve bilişim dünyasının ana gövdesini oluşturan kesimin ağırlıklı olarak beyaz hetero erkeklerden oluştuğunu düşündüğümüzde, kendi geliştirdikleri araçların da ayrıcalıklı konumlarını temsil eden ve barındıran araçlar olacağı da kesindir. Ve hatta hem tarihsel olarak hem de günümüzde bazı Yapay Zekâ geliştiricileri ve araştırmacılarının açıkça aşırı sağ eğilimleri taşıdığını bilmek[36], ayrımcı, ırkçı ve cinsiyetçi bir bilişim tarihine sahip olduğumuzu[37] [38] [39] kavramak süreci daha da zorlaştırıyor, çünkü bilişim tarihine işlenmiş olan ayrıcalıklar ve ayrımcılıklar, hem günümüzü hem de üretilen ürünleri etkiliyor.

Örneğin, Silikon Vadisi’ni kuran William Shockley’in en derin tutkusu soy arıtımıydı ve onlarca yılını IQ farklılıkları hakkındaki ırkçı kuramlarını tanıtmak ve beyaz üstünlüğünü desteklemek için harcamıştı[40]. Bilgisayar Bilimcisi ve Bilişsel Bilimci olan, YZ alanının kurucularından biri olarak kabul edilen, Yapay Zeka terimini ilk ortaya koyan ve YZ açısından önemli olan LISP programlama dili ailesini geliştiren John McCarthy 2004 yılında bir denemesinde kadınların bilim ve matematiğe erkeklere göre biyolojik olarak daha az yatkın olduğunu ve sadece teknolojik takviye ile kadınların erkeklerle eşitliğe erişebileceğini öne sürmüştü[41]. Kendisi de soy arıtımı araştırmaları taraftarı olan cinsel suçlardan hüküm giyen Jeffrey Epstein, MIT Medya Lab’ı için önemli miktarda fon sağlamış ve Bilişsel Bilimci ve YZ araştırmacısı olan ve bilgisayar bilimleri alanında önemli katkıları olan Marvin Minsky’nin çalışmalarını desteklemişti[42].

Günümüzde baktığımızda OneZero’da Matt Stroud’ın gözetim firması Banjo’nun kurucusu ve CEO’su Damien Patton’u Ku Klux Klan’ın Dixie Şövalyeleri’nin eski bir üyesi olarak tanımlayan haberiyle[43] ve Huffington Post’tan Luke O’Brien’ın, Clearview AI şirketinin kurucusu Cam-Hoan Ton-That’ın, eski Breitbart yazarı Chuck Johnson, Pizzagate komplo teorisyeni Mike Cernovich ve neo-Nazi bilgisayar korsanı Andrew ‘weev’ Auernheimer gibi aşırı uç sağcılarla ilişkili olduğunu ortaya çıkardığı haberle karşılaşıyoruz[44]. Clearview AI teknolojisinin açıkça ırkçı bir kullanıma göre tasarlandığı düşünülüyor, çünkü Chuck Johnson 2017 yılının Ocak ayında “sınır dışı etme ekiplerinin bütün yasadışı göçmenlerin kimliğini tespit etmesine yönelik algoritma oluşturma” aşamasında yer aldığını duyurmuş ve üzerinde çalıştığı yüz tanıma yazılımının yeteneklerinden övünerek söz etmiş[45].

Bu haberlerin bu kadar şaşırtıcı ve etkili olması, bu şirketlerin devletlerle önemli kurumlara YZ’ye dayalı gözetim sistemleri sağlamasından kaynaklanıyor. Aşırı sağcı birinin ürettiği bir ürün, elbette açıkça ırkçı bir amaçla tasarlanacaktır. Zaten birçok YZ sisteminin ırkçı yanlılık içeren toplumsal eşitsizlik kalıplarını yeniden ürettiği sürekli söylenen ve bilinen bir şey, bu işin bir de aşırı sağcılar tarafından yapılması işin daha da ciddileşmesi anlamına geliyor. Mesela Sarah Myers West, eldeki verilere dayanarak sonraki olası suç ve suçluları öngörmek için kullanılan birçok öngörücü polislik sisteminin güvenilmez veriden yararlandığını söylüyor, AI Now Enstitüsü yazarları da kolluk kuvvetinin yargı için kusurlu, ırksal olarak yanlı ve kimi zaman kanunsuz polislik uygulamaları sırasında üretilen veriyi, ilgili sistemlerin eğitiminde kullandığını ortaya koyuyorlar[46]. Dolayısıyla bu ırksal yanlılığın aslında “suç önleme” analiz sistemlerine özgü olduğu anlamına da geliyor. Sarah Brayne’nin öngörücü polislik üzerine yaptığı bir araştırmaya göre, beyaz olmayan toplumlara yönelik aşırı polislik ve gözetimi kötüleştiren bu veri uygulamaları mevcut eşitsizlik kalıplarını yeniden üretiyor ve kaydediyor[47].

Sarah Myers West’in dediği gibi bu örnekler Yapay Zekâ alanındaki güçlü şahsiyetler içerisindeki sağ kanat ve açıkça ırkçı ve cinsiyetçi politikaların[48] sürekliliğini de gösteriyor. 1960’lardakine göre bugün çeşitliliğin çok daha az olduğu[49] bir sanayi ile karşı karşıyayız. Irkçı[50] ve yanlı[51] varsayımların kodlandığı, mevcut ayrımcı biçimleri, tespit edilmelerini ve azaltılmalarını gittikçe daha da zorlaştıran ve iyice kötüleştiren teknolojilerle baş başayız[52] [53]. Bu gibi sistemlerden en büyük zararı görenleri yoğun bir şekilde ötekileştiren ve dışlayan teknoloji sanayinin, ötekileştirdiği ve dışladığı bireylerin sorunlarını çözmesini beklemek pek gerçekçi değil.

Her ne kadar yanlılığı çözmeye yönelik bilimsel araştırmalar olsa da[54] [55] [56] [57], bu durumun salt bilimsel araştırmayla çözülebileceğini düşünmemek gerekiyor. Kesin olan bu yanlı teknolojilerin kadınlar, translar, non-binary bireyler, beyaz olmayanlar, engelliler, göçmenler vb. ezilen kesimler, ayrıcalığı olmayan kişiler için mevcut eşitsizlikleri daha da derinleştirdiğidir ve çözüm öncelikle bu teknolojilerin kendisine yaşam bulduğu mevcut sistemde aramaktır. Bataklığı kurutmadan, sıtmayla mücadele gerçekçi bir çözüm üretmeyecektir.

TAHİR EMRE KALAYCI / Sendika.org

Cevapla

E-posta adresiniz yayınlanmayacak. Gerekli alanlar işaretlenmelidir *

*