James O’Sullivan / 16 Ocak 2026
Kamu yönetiminde tahmine dayalı analitiğin kullanımı genellikle tasarruf ve doğruluk olmak üzere iki temel ilke ile gerekçelendirilir. Hükümetler ve özel kuruluşlar, otomatik karar alma sistemlerinin idari şişkinliği azaltırken insan çalışanların öznelliğini ortadan kaldırdığını savunmaktadır. Örneğin, Hollanda hükümeti, otomatik çocuk bakım yardımı dolandırıcılığı sistemini, keyfi insan yargısının yerini objektif, veriye dayalı risk puanlamasıyla değiştirmenin bir yolu olarak açıkça tanımlamıştır. Ancak bu sistemlerin operasyonel gerçekliği farklı bir sonuç ortaya koymaktadır. Önyargıyı ortadan kaldırmak yerine, sıklıkla onu operasyonel hale getirerek, tarihsel eşitsizlikleri görünüşte tarafsız kod mimarisine yerleştirirler. Marjinalleştirilmiş topluluklar için tehdit, teknolojinin başarısız olması değil, tam olarak tasarlandığı gibi çalışması ve politikanın azaltması gereken sistemik ayrımcılığı artırmasıdır.
Bu dinamik, refah devletinin dijitalleşmesinde en açık şekilde görülmektedir. Kurumlar dolandırıcılığı tespit etmek için makine öğrenimine başvurduklarında, nadiren sıfırdan başlayıp modellerini geçmişe ait uygulama verileri üzerinde eğitirler. Düşük gelirli ve azınlık nüfuslar tarihsel olarak daha yüksek gözetim ve polis uygulamalarına maruz kaldığı için, bu veri kümeleri seçim yanlılığıyla doludur. Sosyopolitik bağlamdan yoksun olan algoritma, bu aşırı temsili objektif bir risk göstergesi olarak yorumlar, korelasyonu belirler ve bunu nedensellik olarak kullanır.
Bu mantığın sonuçları, yukarıda bahsedilen Hollanda çocuk bakım yardımı skandalında ( toeslagenaffaire) açıkça görülmüştür ; burada on binlerce aile haksız yere yardım dolandırıcılığıyla suçlanmıştır. Sistemin tasarımı, çifte vatandaşlığı ve düşük gelirleri, hilekarlığın göstergesi olarak ele alarak cezalandırmıştır. Bu, devlet için mali geri kazanımı en üst düzeye çıkarmayı amaçlayan dar bir yönergeyi uygulayan, ancak kamuoyu için adil yargılama sürecini korumaya yönelik karşıt bir yönerge içermeyen istatistiksel bir modelin en önemli örneğidir. Suçlamalar doğru yapıldığında devlet fayda sağlamıştır, ancak sistem yanlış yaptığında tüm zarar, haksız yere suçlanan vatandaşların üzerine düşmüştür.
Benzer bir asimetri, özellikle işgücü piyasasında, özel sektörü de etkiliyor. Algoritmik işe alım araçlarının yaygın kullanımı , seçicileri demografik göstergelerden bağımsız hale getirerek işe alımı demokratikleştirmeyi vaat ediyordu, ancak Amerika Birleşik Devletleri’ndeki Mobley v. Workday davası, “kör” algoritmaların sınırlılıklarını ortaya koyuyor . Bir model, mevcut en iyi performans gösterenlere benzeyen adayları seçmek üzere optimize edilmişse ve mevcut işgücü homojen ise, algoritma geleneksel olmayan geçmişe sahip başvuru sahiplerini cezalandıracaktır. Bir adaya karşı ayrımcılık yapmak için adayın ırkını veya engellilik durumunu bilmesine gerek yoktur; yalnızca bu korunan özelliklerle ilişkili veri noktalarını (posta kodları, istihdamdaki boşluklar veya belirli dil kalıpları) belirlemesi yeterlidir.
Bu durum, mevcut sorumluluk çerçeveleri için önemli bir zorluk yaratmaktadır. Avrupa’da ayrımcılık hukuku , doğrudan ayrımcılık ve dolaylı ayrımcılık arasında ayrım yapar; dolaylı ayrımcılık, görünüşte tarafsız bir kural veya uygulamanın, niyet kanıtı gerektirmeden, koruma altındaki bir grubu orantısız bir şekilde dezavantajlı duruma düşürmesi durumunda ortaya çıkar. Ancak algoritmik ayrımcılık yaygındır ve itiraz edilmesi zordur. Reddedilen bir iş başvurusu sahibi veya işaretlenmiş bir sosyal yardım alan kişi, kendisini diskalifiye eden özel puana, eğitim verilerine veya ağırlıklandırma değişkenine nadiren erişebilir; gerekçesiz bir karar sunan bir kara kutuyla karşı karşıyadır. Bu şeffaflık eksikliği, bir bireyin sonucu sorgulamasını neredeyse imkansız hale getirir ve böylece uygulayan kuruluşu hesap verebilirlikten korur. İspat yükü, en az bilgiye sahip olan tarafa düşer.
Düzenleyiciler, takdire şayan bir şekilde, bu açığı kapatmaya çalışıyorlar. AB’nin Yapay Zeka Yasası ve yeni ortaya çıkan ABD eyalet yasaları, etki değerlendirmeleri ve şeffaflık için gereklilikler getiriyor, ancak uygulama hala teorik bir egzersiz olarak kalıyor. Mevcut denetim yöntemlerinin çoğu , esasen hata oranları gruplar arasında dengeli görünene kadar hesaplamaları ayarlamak anlamına gelen teknik adalet ölçütlerine odaklanıyor . Bu teknik biçimcilik, daha geniş noktayı genellikle gözden kaçırıyor; o da bir sistemin istatistiksel olarak “adil” olabileceği ve altta yatan politika hedefi cezalandırıcı ise yine de yırtıcı olabileceğidir. Yoksul aileleri ırksal çizgiler boyunca aynı oranda dolandırıcılık soruşturmasına tabi tutmak için bir algoritmayı kalibre etmek, öncül -yoksulların kitlesel gözetimi- yanlışsa sorunu çözmez.
Politika müdahaleleri, hata oranlarının optimizasyonu ve biçimsel eşitlik ölçütlerinin ötesine geçmelidir. Adaleti istatistiksel çıktıların kalibrasyonu meselesi olarak ele almak, asıl sorunun verileri üreten sosyal ve kurumsal koşullardan ziyade yanlış ölçümde yattığını varsayar. Algoritmik sistemler dünyayı doğrudan gözlemlemez; gerçeklik görüşlerini, önceki politika seçimleri ve uygulama pratikleriyle şekillenen veri kümelerinden miras alırlar. Bu tür sistemleri sorumlu bir şekilde değerlendirmek, kararların dayandırıldığı verilerin kaynağını ve seçilen değişkenlerde kodlanmış varsayımları incelemeyi gerektirir.
Bu durum, özellikle doğrudan ifade edilmesi zor veya politik olarak hassas olan karmaşık sosyal özelliklerin ölçülebilir vekil göstergeleri olan vekillerin yaygın kullanımında belirgindir. Telefon görüşmelerinin süresi , adres değişikliği sıklığı , sosyal ağ yoğunluğu veya çevrimiçi etkileşim kalıpları gibi değişkenler , pratikte sınıf, güvencesizlik, göçmenlik durumu, engellilik veya bakım sorumluluklarının dolaylı ölçüleri olarak işlev görürken, genellikle bir kişinin güvenilirliğinin veya dürüstlüğünün tarafsız göstergeleri olarak sunulmaktadır. Bu özellikler toplumda eşit olmayan bir şekilde dağıldığı için, vekil tabanlı sistemler, yaşamları değerlendirildikleri veri kümelerinin davranış normlarına uymayanları sistematik olarak dezavantajlı duruma düşürmektedir.
Temel sorun, bu göstergelerin karmaşık sosyal gerçeklikleri bağlam ve yorumdan arındırarak davranışsal veri parçalarına indirgemesidir. Kısa bir telefon görüşmesi, kaçınma yerine sınırlı kredi, dil farklılığı veya zaman baskısını gösterebilirken, seyrek dijital ağlar sosyal izolasyon veya risk yerine yaş, yoksulluk veya çevrimiçi platformlardan kasıtlı olarak uzaklaşmayı yansıtabilir. Bu tür sinyaller belirleyici göstergeler haline getirildiğinde, sistem bir tür dijital frenolojiye girişerek, değerlendirilen niteliklerle yalnızca tesadüfi bir ilişki taşıyan yüzeysel izlerden karakter ve gelecekteki davranışları çıkarır.
Bu çıkarımsal kısayollar, standart dışı veya güvencesiz dijital ayak izlerine sahip, düzensiz çalışma, kayıt dışı bakım, göç veya altyapıya sınırlı erişimle şekillenen yaşamları olan bireylere orantısız bir şekilde zarar vermektedir. Bunlar genellikle zaten sosyal yardım kurumları ve kamu kurumları tarafından daha sıkı denetime tabi tutulan aynı nüfus gruplarıdır. Algoritmik sistemler, istatistiksel normdan sapmayı risk kanıtı olarak ele alarak ve bu yargıyı sistem tasarımına yerleştirilmiş bir seçimden ziyade nesnel analizin sonucu olarak sunarak dezavantajı daha da artırmaktadır.
Bu sistemlerin tehlikesi, siyasi kararları teknik süreçler aracılığıyla aklama yeteneklerinde yatmaktadır. Tahsis ve uygulama süreçlerini mühendislik sorunları olarak çerçeveleyerek, kurumlar genellikle politika değişikliklerine eşlik eden ahlaki ve hukuki incelemelerden kaçınabilirler. Bu kararların en olumsuz sonuçlarıyla karşı karşıya kalan topluluklar için sonuç, görülmesi, anlaşılması ve mücadele edilmesi çok daha zor olan bir bürokrasi tarafından desteklenen, toplumsal tabakaların daha da katılaşmasıdır.
https://www.techpolicy.press/how-algorithmic-systems-automate-inequality/