Sözcük Seçimi: Yapay Zekanın Adı Neden Yapay Zeka

Televizyonda ve internetin popüler köşelerinde görürsünüz. Yapımcının seçtiği, hükümetten onaylı yarı-okumuş adamlar biliyormuş gibi tartışır, dezenformasyon yaparlar. Ne dedikleri ayrı konu. Ama nadir rastlanan muhalifler de içinde olmak üzere hepsinin yaptığı bir hata var. O da “yapay zeka” sözcüğünü kullanmaları.

Yapay zeka aslında bildiğimiz bilgisayar programıdır. 1990’larda dünya satranç şampiyonu Kasparov’u yenen bilgisayara “bilgisayar”, çalıştırdığı programa “program” deniyordu. O zamanlar basına ve teknolojiye yön verenler sözcükleri yerlerinden kaydırmakta şimdiki kadar usta değildi. Yapay zekanın öğrenme gibi bir farkının olduğu öne sürülüyor. Oysa satranç programları da öğrenebiliyordu.

Programcılık çevrelerinde belli kapasitedeki programların yapay zeka olarak anılması işlevsel olabilir. Ancak her teknik veya bilimsel konuda olduğu gibi bu konuda da dar bir bilenler çevresinin kullandığı kavramla o kavramın popülerleşmiş, ayağa düşmüş görüntüsü arasında önemli bir fark bulunuyor. Örnek vermek gerekirse kaçak akım rölesine elektrikçi olmayanların “kaçak akım sigortası” deyivermesi masumcadır çünkü anlaması biraz zor bir şeyi kendi bildiği terimlerle anlatmıştır. Aslında doğru da yapmıştır. Aynı ilkeyi uygulayarak halkın yapay zekaya “bilgisayar programı” demesi beklenir. Ama bu gerçekleşmedi.

Gerçekleşmesi engelleniyor gibi görünüyor. Çünkü basında konuyla ilgili kalem veya ağız oynatan hiç kimse bunun basbayağı bir programı anlattığına vurgu yapmıyor. Çoktandır var olan bir şey olduğunu hatırlatmıyor. Gerçekleşmiş sonuçlarını ve olası sonuçlarını düşündüğümüzde bu sözcük seçiminin politik olabileceği anlaşılıyor. Kalabalıkların düşüncesini köreltecek, onları daha boyun eğici olmaya yönlendirecek, kulağa fazlasıyla karmaşık ve ulaşılmaz gelen bir kavram izlenimi verilmeye çalışılıyor. Çok kısa bir özet geçeceğim.

Eskiden beri işledikleri suçları bildik yöntemlerle örtbas etmeye çalışan çeteler, gelecekte işlemek istedikleri suçları yapay zekanın üstüne atmayı tasarlıyorlar. Bu bir senaryo veya tahmin değil, işaretleri çoktan ortaya çıkmış olan bir projedir. Sözgelimi yapay zekaya eşitlikle birlikte sözde “pozitif ayrımcılığın” da öğretilmesi gerektiğinin savunulması suç işleme niyetinin açık belirtisidir.[1] Programın bütünüyle somut yetkinlik verilerine dayanarak yaptığı seçimleri “ayrımcı” bulacak olan çevreler kendi ayrımcılıklarını programa öğretecekler, ama çıktılardan doğrudan sorumlu olmayacaklardır. Bu müdahalenin gerekçesinin şeytana pabucunu ters giydirircesine “algoritmik adaletsizlik” adıyla çoktan oluşturulmuş olması tüyler ürperticidir. Yani insanın her zaman yapamadığını makine yapabilip bütünüyle yansız davranış gösterebilecekken, tam da makinenin en işe yarayacağı noktada çıktılara müdahale etmeyi ve yansız kararları engellemeyi savunuyorlar! Yapay zekanın kamuoyuna bir tür zeka olarak kabul ettirildiği bir gelecekte, insanlar kendilerine yapılan sistemli haksızlığı yapay zekanın çektiği ince adalet ayarı olarak düşünmeye zorlanacaklardır. Çünkü terimin yarattığı çağrışım, önünde bir operatörün oturduğu normal, geri zekalı bir bilgisayarın çalıştırdığı programınkinden farklıdır.

Politikacılar, şirket yöneticileri ve kamuoyunu yönlendiren her kimse, verdikleri politik kararların sorumluluğunu almaktan kaçmak için tarihte benzeri görülmemiş bir olanağa kavuşacaklar. Üniversite sınavlarında, iş alımlarında, kredi başvurusu değerlendirmesinde, sigorta primi hesaplamasında, seçim adaylarının belirlenmesinde kendi yaptıkları eğri ve adaletsiz seçimleri yapay zekanın seçimleri olarak sunabileceklerdir. Hatta ceza mahkemelerinde suç kanıtının yüzde yüzün altında olduğu durumlarda zanlının suçu işlemiş olma olasılığını bilgisayara hesaplatmaya kadar varabilecektir. Uzaktan kasıtlı olarak düşürülen uçağın veya çarptırılan arabanın davası olmayacaktır.[2] Makinenin adaletsizliği ülkelerin yasası haline geldiğinde, makine yargılanamayacağı için bugün en azından ideal koşullarda sahip olunan mahkemede hak arama seçenekleri giderek azalacak ve ortadan kalkacaktır. Bugünlerde duyduğunuz rahatsızlığı düşünün. Hükümetin yapay zekaya herkesi tek tek değerlendirtip herkese ayrı yasaklar uyguladığını düşünün. “Yapay zeka sizin riskinizi yüksek buldu, bu yüzden altı ay evinizden çıkmayacaksınız.” Haydi kolay gelsin, size hangi mahkeme yardım edecek? Aslında size bu eziyeti eden hükümet olacak; kişiler olacak. Yapay zeka yalnızca bu kişilerin arkasına sığındığı bir paravan olacak ve siz ne işin aslını öğrenebileceksiniz ne de bir sonraki haksızlığı öngörebileceksiniz. Azınlık Raporu filminde kahin kişilerin öngörüsüne göre insanlar işlemedikleri suçlardan dolayı cezalandırılıyordu. Karşımızdaki tasarıyla karşılaştırıldığında bu karanlık senaryo bile masum kalıyor. Çünkü kahinlerin yanılabilecekleri her zaman savunulabilir ama bir “zeka” içerdiğine bir biçimde inandırıldıysanız makineye karşı gelmeniz zordur.

Bilinmezlik izlenimi veren, karmaşık görünen, kendiliğinden işler görünen süreçlerin arkasına sığınmanın çoktan kanıksanmış minik örnekleri var. Sözgelimi ÖSYM, öğrencilerin puanını nasıl hesapladığını yıllarca gizli tutmuştur. İşin içinde yapay zeka yok ama milyonlarca kişinin verisini işlemek matematik cahili politikacıların ve mahkeme yargıçlarının gözünde takibi olanaksız bir iş olduğu için göz yumulmuştur. “Seçme ve yerleştirmeyi makine yapıyor” cümlesiyle “seçme ve yerleştirmeyi makineyi programlayan kişiler yapıyor” cümlesi arasındaki fark, konumuz olan sözcüğün yarattığı farka benziyor. Benzer biçimde Koç Holding’in Türkiye’ye güzide armağanlarından biri olan ve pek çok yorumcuya göre seçim hilesini kolaylaştıran Seç-Sis yazılımının kaynak kodu gizlidir. Türkçesiyle, bu programın neyi nasıl hesapladığı şeffaf değildir, gizlidir. TÜİK’in enflasyonu nasıl hesapladığını ülkede bir kaç kişiden fazlasının bildiğini sanmıyorum. Bu saçmalığa karşı tepkinin azlığında “karmaşık formüller” izleniminin etkisi ille vardır. Sigorta şirketlerinden fiyat aldığınızda primi neye göre belirledikleri gizlidir. Öte yandan mahalle bakkalı herkese ayrı fiyat çekecek olsa zabıta ensesine yapışır. Aradaki fark, sigorta şirketinin “çook karmaşık” işler yapmasıdır. “Bilgisayar hesaplıyor, biz hesaplamıyoruz”. Aynı şekilde bankalar denk iki kredi başvurusundan birini kabul edip öbürünü geri çevirebiliyor. Bunu yargı konusu yapamayışımızın nedenlerinden biri, bankanın karmaşık risk hesaplamaları yapıyor görünmesidir.

Bütün bu örnekler, işin içine biraz kafa karıştıran sayısal işlemler veya bilgisayarlar girdiğinde hukukun üstünlüğünün nasıl tel tel dökülüverdiğinin örnekleridir. Yani matematik cahili kişilerin önünde fazla karmaşık görünen sayısal işlemlerin işlenen suçlara bir duman perdesi oluşturması yeni bir şey değildir. Önüne her atılan kemiğe atlayan beyinsiz ve cahil yığınlar düşürüldükleri tuzağı silikondan mamul bir tanrının normal işleyişi sanacaklardır. Ama bugüne kadarki örneklerde suçlular sözcük seçimlerinin, algı oyunlarının arkasına bu kadar saklanmamışlardı. Bir sigorta acentesi, şirketin tombala çeker gibi çıkardığı primi en fazla “program” veya “sistem” sözcükleriyle masumlaştırmaya çalışabilir. Ama bunlarda “yapay zeka” sözcüğünün tınısı asla bulunmaz.

Yapay zekaya yüklenecek haksızlıklara razı olmanın başlangıcı, toplum mühendislerinin tasarlayıp önümüze koydukları sözcükleri sorgulamadan, yargılamadan benimsemektir. Çünkü sözcüklerle düşünürüz. “11 Eylül saldırısı”, “15 Temmuz darbesi”, “terör suçu”, “nefret suçu”, “toplumsal cinsiyet eşitliği”, “sosyal mesafe”, “pandemi” gibi sözcükleri bunun anlamı nedir, bu olguyu neden bu sözcükle anlatıyoruz diye sorgulamaksızın papağan gibi yineleyenler kendi düşüncelerini oluşturma şansını daha baştan azaltıyorlar. Yapay zeka dedikleri yalnızca övülmüş bir bilgisayar programıdır. Her program gibi birlerden, sıfırlardan oluşur ve transistörlerden oluşan bir devrede çalışır. Bir eleştirel düşünür “yapay zeka” sözcüğü ve aynı anlamda kullanılan “derin öğrenme”, “öğrenen makineler”, “sinir ağı” sözcükleri yerine fırsat buldukça bilgisayar, program ve makine sözcüklerini kullanmakta ısrarcı olmalı, makinenin “geri zekalı” doğasını vurgulamalıdır. El ve elin tuttuğu alet paradigması değişmemelidir. Aşağıdaki çok basit örnekleri inceleyin ve birinci cümlenin tınısı ve çağrışım kümesiyle ikincininkini karşılaştırın.

A: “Bir yapay zeka duygulara sahip olursa insanın sahip olduğu haklara sahip olur mu?”

B: “Bir bilgisayar programı duygulara sahip olursa insanın sahip olduğu haklara sahip olur mu?”

 

A: “Bilimadamları depresyonu iyileştirebilecek bir yapay zeka algoritması geliştirmek üzereler.”

B: “Bilimadamları depresyonu iyileştirebilecek bir program algoritması geliştirmek üzereler.”

 

A: “Sürücüsüz arabaların yapay zekası kimin ölüp kimin sağ kalacağına karar verecek.”

B: “Sürücüsüz arabaların programı kimin ölüp kimin sağ kalacağına karar verecek.”

 

 

Dipnotlar

[1] Örnek: Amazon, çoğunlukla erkekleri seçtiği için işe alma programını kullanmayı bırakmış. Program liyakata bakmış, feminist yöneticiler “eşitliği” öğrenmiş yeni bir program arıyorlar. https://www.breitbart.com/tech/2018/10/11/amazon-shuts-down-ai-recruitment-tool-after-it-discriminates-against-women/

Örnek: Program, kendisine gösterilen insan fotoğraflarının arasından en güzelleri seçiyor, yaptığı seçimler “ırkçı” bulunarak eşitlikçi bir ayar çekilmesi talep ediliyor. https://www.techspot.com/news/66272-beauty-contest-ai-judge-accused-racism.html

Makineye yanlılığın öğretilmesini açıkça savunan birkaç örnek:

https://hbr.org/2020/08/how-to-fight-discrimination-in-ai

https://time.com/5520558/artificial-intelligence-racial-gender-bias/

 

[2] Çoktan gerçekleşmeye başladı. Sürücüsüz araba yayayı öldürdüğünde yazılım hatası olmasına rağmen sıradan bir işçi adli sisteme kurban verilip yazılımı geliştiren ve kullanan şirket temize çıkarıldı. https://edition.cnn.com/2020/09/18/cars/uber-vasquez-charged/index.html