Bankaya gittiniz, kredi isteyeceksiniz. Sizden bazı belgeleri sunmanız talep edildi, onları da sundunuz.

Ertesi gün bir telefon geliyor: Kredi talebiniz onaylanmadı.

Neden, nasıl?

Kredi talebinizi çünkü bankanın yapay zekası inceledi ve sizin kredinizi geri ödeme kabiliyetine sahip olmadığınıza karar verdi.

Bir örnek daha…

Çok uluslu şirkette işe gireceksiniz, başvurunuzu yaptınız, istenen belgeleri ve CV’nizi sundunuz. Ama red cevabı aldınız.

Neden? Cevabı yok. Çünkü işe giriş başvurunuzu bir yapay zeka inceledi ve sizin uygunsuz olduğunuza karar verdi.

Bunlar çok uç örnekler değil, her gün yüzlerce, belki binlerce insanın başına geliyor. Bankadan, şirketten red cevapları alınıyor.

Elbette her banka her kredi talebine olumlu cevap verecek değil, elbette her işveren işe girmek isteyen herkesi işe alacak değil. Red cevapları çok normal. 

Normal olmayan, bu cevapların yapay zeka tarafından sizin önceden kestiremeyeceğiniz bazı kriterlere bakılarak verilmesi.

Verdiğim örneklerden devam edeyim. Elbette her banka bir kredi talebini cevaplarken tercih kullanır. Bu tercihler de hiçbir zaman yüzde 100 objektif olmaz, mutlaka duygular ve en önemlisi ideolojik ön yargılar devreye girer. Aynı şey işe alım kararlarında da geçerlidir.

“İdeolojinin bankadan kredi almakta veya işe girmekte ne rolü olabilir” diye itiraz ediyorsunuz şu anda.

Bu yazı tam da bunu anlatmak için yazılıyor.

Britannica Ansiklopedisi “ideoloji”yi şöyle tanımlıyor: “İdeology, a form of social or political philosophy in which practical elements are as prominent as theoretical ones. It is a system of ideas that aspires both to explain the world and to change it.”

Çevirmeye çalışayım: “İdeoloji, pratik unsurlarının teorik unsurları kadar önemli olduğu sosyal veya siyasi felsefe türüdür. Fikirlerden oluşan bu sistem, aynı anda hem dünyayı açıklamaya hem de değiştirmeye esin kaynağı olur.”

Tanımda yer alan “sosyal” kelimesini öyle okuyup geçmeyin, ideolojiler sadece siyasi konularla sınırlı değildir.

Bizler farkında olalım olmayalım, tercihimizi bilincimizle yapmış olalım veya olmayalım, mutlaka bir ideolojinin içinde yaşarız; çoğu zaman çoğulcu toplum birden fazla ideolojinin bir arada yaşadığı toplum demektir. Çünkü toplum farklı sosyal gruplardan, cemaatlerden, birlikteliklerden oluşur.

Gelin bir de ‘ahlak’ın tanımına bakalım ve yine Britannica Ansiklopedisine başvuralım: “Morality, the moral beliefs and practices of a culture, community, or religion or a code or system of moral rules, principles, or values. The conceptual foundations and rational consistency of such standards are the subject matter of the philosophical discipline of ethics, also known as moral philosophy. In its contemporary usage, the term ethics is also applied to particular moral codes or systems and to the empirical study of their historical development and their social, economic, and geographic circumstances.”

Bu karmaşık cümleyi benim kötü çevirim şöyle: “Ahlak, bir kültürün, bir topluluğun veya dinin inandığı ve uyguladığı ahlaki kurallar, ilkeler veya değerlerden oluşan sistem bütünüdür. Bu standartların kavramsal temeli ve rasyonel tutarlılığı felsefenin bir kolu olan etik veya ahlak felsefesi diye bilinen disiplinin konusudur. Etik teriminin güncel kullanımı belirli bir ahlaki kurallar bütününü kapsadığı gibi bu kuralların içinde geliştiği sosyal, ekonomik ve coğrafi şartların ampirik incelemesini de içerir.”

İdeoloji ve ahlak elbette aynı şeyler değiller ama bu iki tanıma bakınca onların en azından komşu olduklarını, hatta aralarında geçişler bulunduğunu söylemek çok yanlış olmaz.

Söylemeye bile gerek yok; çoğulcu toplumda birden fazla ideoloji olduğu gibi birden fazla ahlak da olması son derece doğal.

Nasıl ideolojiyi sadece siyasetten ibaret kabul etmemeliysek ahlakı da sadece çalmayacaksın-öldürmeyeceksin gibi iyi ile kötü davranış arasındaki farkı bilmekten ve hep daha iyi ile daha güzeli arama çabası olmaktan ibaret görmemek gerekir.

Daha ileri gideyim; bütün ideolojik seçimlerimiz aynı zamanda birer ahlaki tercihtir. Kaçınılmaz biçimde böyledir.

Bir örnek vereyim: 

Başkan Donald Trump, uyuşturucu satıcılarına idam cezası verilmesi gerektiğini savunuyor. Onun ideolojisi ve ahlakı bunu söylüyor. Ama aynı Trump geçen hafta çıkardığı af kararlarında Amerika tarihinin en büyük açık uyuşturucu, hatta kiralık katil tutmak dahil suç pazarı olan Silk Road isimli internet sitesini kurup yıllarca işleten Ross Ulbricht isimli birini de hapisten çıkardı. 11 yıldır hapiste olan ve Trump affetmese daha ömür boyu hapiste kalacak olan Ulbricht, Trump’ın da savunucuları arasında olduğu Libertaryen felsefe ile kripto dünyasının kahramanlarından biriydi ve bu sebeple Trump’a göre en az 6 kişinin ölümüne sebebiyet vermekle ve uyuşturucu satmakla suçlanıp hüküm giyen adi bir hükümlü değil siyasi mahkumdu, çünkü fikirleri yüzünden hapisteydi.

Gördünüz, ideolojisi Trump’a bir ahlaki seçim yaptırdı.

Biz insanlar, aramızdaki ideolojik ve ahlaki tercih farklarıyla kâh kavga ederek kah birbirimizin farklılıklarına hoşgörü göstererek yaşamaya çalışıyoruz. Bazılarımız dünyada sadece iki temel ideolojinin olduğu, dolayısıyla ahlaki tercihlerin de son derece kolay olduğu bir dünyayı özlüyor olsa da, yapacak bir şey yok. Nasıl birden fazla hakikati istemesek bile kabullenmek zorundaysak ikiden fazla ideolojiyi ve ahlakı da kabullenmemiz lazım.

Gündelik hayatta belki bu çoklu ideolojiler ve ahlaklar konusunu kabullenebiliriz ama işin içine hepimizin paylaştığı kurumlar ve hizmetler girince konu daha da çapraşık bir hal alıyor.

Kurumdan kasıt devlet. Devlet ikiden fazla ideoloji ve ahlak olan bir toplumda bunlardan sadece birini tercih ediyor, üstelik toplumun tamamına bunu dayatıyorsa, o toplumda kaçınılmaz bir siyasi kavga başlıyor. Türkiye’de bu kavgayı çok iyi biliyoruz; şimdi Amerika da öğreniyor.

Ama bir de hizmetler var. Bu köşe pazar günleri bilim ve teknolojiden söz ettiği için bugün “hizmet” derken spesifik olarak yapay zeka sistemlerini kastediyorum.

Siz farkında olun veya olmayın, yapay zeka sistemleri gündelik hayatımızda artık çok önemli bir yer tutuyor ve bu yer sürekli genişliyor. Karşımızda artık arka planda bir algoritmayı çalıştıran bir yapay zeka yok; bizimle konuşan, sorduğumuz soruya cevap veren, o cevap için araştırma yapan yapay zekalar var.

Ve o konuşan yapay zekaların da kaçınılması mümkün olmayan ideolojik, dolayısıyla ahlaki seçimleri var. Bu seçimi yapay zeka kendisi yapmıyor; ona programcısı hangi seçimi nasıl yapacağını emrediyor.

Örneğin yapay zeka ırkçılık yapmasın istiyoruz, hakaret etmesin istiyoruz kadınla erkek arasında cinsiyet ayrımcılığı yapmasın istiyoruz. (Veya elbette tam tersini isteyenler var: Irkçı olabilsin, hakaret edebilsin, erkeği kadına tercih etsin.)

Yapay zeka sistemleri devasa altyapı yatırımlarına ihtiyaç duyan çok büyük şeyler. Öyle evinin garajında genç bir meraklının yapabileceği bir şey değil. O yüzden kaçınılmaz olarak bu sistemler, onu kuracak ve işletecek kadar sermayesi olan dev şirketlere ait olacaklar.

Trilyon dolarlık değerlere sahip olan şirketler açısından toplumu dikey bölen ideoloji ve ahlak tartışmalarının göbeğinde yer almak ticari olarak çok doğru şeyler olmayabilir. O yüzden bu şirketler genellikle ideolojik ve ahlaki tercih bakımından içinde yaşadıkları ve hizmet sattıkları toplumun ana eğilimleriyle birlikte hareket ederler.

Amerika’da düne kadar Demokrat Parti liderliği ana akımdı; bugün öyle değil, Trump ve onun temsil ettiği ideolojik/ahlaki seçimler evreni ana veya baskın akım. Dolayısıyla büyük şirketler de kendilerini başka herkesden daha hızlı biçimde bu ana akıma eklemlediler.

Başkan Donald Trump’ın ilk günleri, ilk haftası fırtına gibi geçti. Başkan, o kadar çok başkanlık kararnamesi çıkardı ki, tamamını takip edebilmek bir mesele. Çıkardığı kararnamelerden biri yapay zekayla ilgiliydi.

Kararnamenin bir maddesinde daha önceki başkan Joe Biden tarafından aynı konuda çıkarılmış olan kararname iptal ediliyordu.

Gelin önce bugün iptal edilen Biden’ın kararnamesi ne diyordu, kısaca ona bakalım:

Biden’ın kararnamesi yapay zekanın aynı anda insanlık için hem çok iyi hem de çok kötü olabilecek bir potansiyeli barındırdığını söylüyor, yapay zeka sistemlerinin “topluma zarar verecek şekilde sahtekarlığa, ayrımcılığa, önyargılara ve dezenformasyona, işçileri işsiz veya güçsüz kılmaya, rekabeti önlemeye ve ulusal güvenliğe zarar vermeye” yaramaması gerektiğini emrediyordu.

Trump kararnamesinde bunu iptal ederken, bir yandan ABD’nin yapay zeka konusunda dünyayı domine etmesini hedefliyor, bir yandan da bu hakimiyete ulaşmak için engellerin kaldırılmasından söz ediyor ve “Bu hedeflere ulaşmak için yapay zeka sistemleri ideolojilerden bağımsız olmalı ve herhangi bir sosyal mühendislik niyeti gütmemeli” diyordu.

Yani Trump, yapay zekalara sahip olan şirketlere “Elinizi tutan yok” diyor. “Herhangi bir ideolojik veya ahlaki sınırınız olmasın.”

Irkçılıktan, ayrımcılık yapmaktan, kadın düşmanlığından, uygunsuz şeyler söylemekten kaşınmasın yapay zekanız. Sadece Anti-Woke olmasın, daha da ileri gitsin.

Bakalım şirketler Trump’ın kendilerine verdiği bu imkanı nasıl kullanacak, ortaya nasıl ürünler çıkaracaklar.

Bir hatırlatma yapayım: Trump’ın en büyük destekçilerinden biri olan Elon Musk’ın şirketinin ortaya çıkardığı yapay zeka sohbet robotu Grok seçimden önce her sorulduğunda “Oy verilecek aday Kamala Harris” demişti.

Bakalım Grok bu kararnameden sonra Trump’a oy vermeye başlayacak mı?