1. Yapay Zeka yolunda sorular?
Müfit Akyos/ Herkese Bilim ve Teknolji Dergisi/ 21 Haziran 2019
Yapay zekayı (YZ) genel anlamıyla makinalara zeka kazandırmak olarak tanımlarsak en düşükten en gelişmişine (?) kadar geniş bir aralıkta ölçeklendirilebilecek zekanın makinalar için oldukça alt basamaklarda olduğu söylenebilir. İnsan makina ilişkisinde önceleri kas gücünü makinalara aktararak yaşamını kolaylaştırmaya ve verimliliğini arttırmaya çalışan insanoğlu aynı zamandazekasını da aktarmış olmuyor muydu? Örneğin insan-makine sistemi olarak delikli kartlar üzerinden kendi kendine dokuma yapan Jacquard tezgahı yada müzik kutusu laternanın çalışması gibi. Şimdilerde ise daha çok insana özgü zekaya ilişkin dil geliştirme, gözlem yapma, veri toplama, işleme ve ilişkilendirme, sorun çözme, duygularını sanat eserlerine dönüştürme vb. eylemlerini de makinalara aktarma yolunda ilerliyor. Henüz yolun çok başlarında olunsa da ok yaydan çıkmıştır. Bir yandan insanımsılar (humanoid) geliştirilirken diğer yandan Endüstri 4.0’la biçimlendirilen üretim ortamları geliştiriliyor. Öte yandan savaş sanayisinde bize gösterilen uygulamalar (DARPHA’nın katırı, siber asker, otonom silahlar gibi) ürküntü veriyor.
Sorulması gereken, dünyamızı bugüne kadar yaptığı akılsızlıklarla neredeyse yok olma noktasına getiren insan zekasının (teknolojinin kullanılma biçimi olarak da okunabilir) YZ’yı nasıl kullanacağıdır. Gelinen noktada elbette geliştirilmekte olan her teknolojinin çevre, iklim, tarım, açlık, yaşlanan nüfus, kentleşme, sağlık vb. sorunların çözümüne katkıda bulunmasını bekleriz. Yoksa YZ’nın büyük veri ile beslenen algoritmalarla biçimlenen “beyninin” bizlere sürekli var olan kapitalist tüketim düzeninin “akıllıca” neyi nasıl tüketmemizi söylemesini değil.
1980’lerde “uzman sistemler” olarak sınıflandırılan YZ, 5G bağlantı çağında otonom, radikal teknolojilerle günlük hayatımızın her noktasına sızmaktadır. Ancak “YZ algoritmalarının sosyal eşitsizliği yansıtan mevcut veriler esas alınarak tasarımlanması nedeniyle insanlar, karşı bilinçli önlemler almadıkça sistem adaletsizliğinin sürekliliği riski devam edebilecektir (örneğin suç alışkanlıkları tahminlerinde sosyal sınıfların veya iş adaylarının tercihinde yerleşik cinsiyetçi yaklaşımların esas alınması).”
Facebook ve YouTube, sitelerine üye insanların verilerini kullanarak doğrudan hedef kitleye ulaşacak mesajlar veren teknolojiler sunarak para kazanmaktadırlar.Yeni kuşak politikacıların dijital okuryazarlıklarının olması başta internet olmak üzere bütün türevlerinin toplumsal yaşamımızı ve bireysel özerklik ve özgürlüklerimizi tehdit eden örneklerin arttığı bir dönemde bu alanda gerekli etiğin, regülasyonların oluşmasında bir yarar sağlayabilir mi? Yada teknolojinin bugünkü kapitalist düzende kullanımından kaynaklanan eşitsizliklerin (erişim, paylaşım, refah vb.) artmasına, iklim değişikliklerinden – şimdilik – yoksulların daha fazla etkilenmesine engel olabilir mi? (bkz.;Yochai Benkler’in yazısının Batuhan Sarıcan tarafından yapılan geniş bir çevirisi için HBT, Sayı 166, s.13)
Amacını“insan zekasını en iyi biçimde bir araya getirerek en iyi akıllı makinayı yapabilmek” olaraktanımlayan Cambridge, Oxford, Berkeley üniversiteleri, Imperial College ve Leverhulme Trust Vakfı’nın kurduğu, Leverhulme Zekanın Geleceği Merkezi’nin web sayfasında “Akıllı makineler, kanseri tedavi etmeden şehirlerimizi temizlemeye kadar her şeyi daha iyi yapmamıza yardımcı olacak. Ancak birçok soru ve yeni zorluklara da yol açacaklar. YZ dönemine geçişin iyi gitmesini sağlamak, zamanımızın en büyük zorluklarından birisidir.” denilmektedir.
Batıda YZ çalışmalarına paralel olarak kişisel verilerin korunması konusunda duyarlılık artarken ülkemizde bir seçim uğruna en hoyrat biçimde her türlü kişisel verilerimiz iktidarın hizmetine sunulabiliyor.
2. Yapay Zeka’nın ahlakını kim temsil edecek?
Müfit Akyos / 19.08/2019/ Herkese Bilim Teknoloji Dergisi
Hemen bütün yeni teknolojilerin ve onları kullanarak geliştirilen ürünlerin ortaya çıkıp yaşamımızı etkilemeye başladığı noktada kamu otoritesi yeni kurallar (hukuki düzenlemeler, standartlar ve regülasyonlar) oluşturmak için çalışma başlatır. Teknolojinin etki ve yayılım alanının küresel düzeyde olması durumunda küresel kurumlar ve devletlerin yanısıra, öne çıkan firmalar bu standartlar ve regülasyonların oluşturulmasında yer alma mücadelesine girişirler. Beklenen, kamunun düzenleyici ve “kamuyu koruyucu” misyonu ile süreçte toplumu ve bireyi “koruyacak” biçimde konumlanmasıdır (hakem olması değil!). Ancak bir önceki aşamada yani teknoloji veya ürün geliştirme aşamasında kamunun araştırma geliştirme faaliyetlerinde kamu-özel kesim gerektiğinden daha fazla yakınlaşmış, kamu araştırma projelerini parasal olarak destekleyen özel kesime projelerin yürütme ve karar verme süreçlerinde yer verilmiş ise standartlar ve regülasyonlar oluşturma faaliyetlerinde “kamunun yararı”, “rekabet koşulları” ne ölçüde korunabilecek veya güvenilir olabilecektir?
Örneğin bilinen bilişim “tekellerinin” YZ alanında kamu araştırma kurumlarının yürüttüğü projelere büyük miktarda parasal desteğin yanısıra proje yönetimlerinde de yer almaları bilim çevrelerinde bilimle özel firmalar arasındaki sınırın yeniden tartışılmasına neden olmuştur. Ülkemiz dahil “üçüncü kuşak üniversite” adı altında özendirilmeye çalışılan “girişimci üniversite” kavramının da bu tartışma içinde yer alması beklenir.
Son yıllarda YZ’nın gelişme ve yaşamımızı etkileme hızı bir yandan hayranlık uyandırmakta, büyük umutlar yaratmakta diğer yandan çok büyük veri tabanlarını kullanma gereksinimi, yüksek karmaşıklıkta algoritmalara dayanması endişeler doğurmasına neden olmaktadır. Bu nedenle olsa gerek AB, YZ çalışmalarını hukuki altyapısını da oluşturma çalışmalarında liderlik yarışına girmiş görünmektedir. Mart 2012’de başlatılan RoboLaw Projesi Mayıs 2014’te tamamlandı ve “Robotik Alanın Hukuki Düzenlenmesi Rehberi” ve izleyen yıllarda yine bir dizi “robot hukuku” ile ilgili düzenlemeler yayınlandı. Nisan 2018’de AB üyesi ülkelerin imzaladığı ve 2020’den itibaren yıllık 20 milyar avro kaynak ayırmayı öngören Yapay Zeka İşbirliği Bildirgesi bu alanda çok önemli bir adımdır. ABD’nin Mayıs 2018’de düzenlediği Yapay Zeka Zirvesi’nde Beyaz Saray düzeyinde kurulan Yapay Zeka Komitesi bu alandaki rekabeti ve konunun önemini yeterince göstermektedir.
Eş zamanlı olarak büyük teknolojifirmaları da, yapay zeka alanında bilim, etik ve yasaları biçimlendirmek üzere harekete geçti. 10 Mayıs’ta ABD Ulusal Bilim Vakfı’nın (NSF) Yapay Zekada Adalet konusunda projeler için başlattığı yeni bir finansman programı dolayısıyla Amazon’la işbirliği için niyet mektubu düzenlendi.
Ocak 2019’da kendisini dünyanın önde gelen yapay zeka uzmanlık kümelerinden biri olarak kabul eden Münih Teknik Üniversitesi (MTÜ), YZ’nın güvenlik ve mahremiyetten ödün vermeden 21. yüzyılda nasıl kullanılabileceğini araştıran yeni bir merkez açtı.Amaç, mühendisler ve bilişim uzmanlarının, politika yapıcılar ve teknoloji firmaları için rehberlik sağlamak üzere hukuk, tıp ve dijital etik, yönetişim ve hesap verebilirlik konularında uzman akademisyenlerle birlikte çalışmalarıydı. Ancak bu merkezin YZ’nın en tartışmalı kullanıcısı Facebook’tan kabul ettiği 7.5 milyon dolarlık bağışı kabul etmesiyle “etik yıkama” konusundaki tartışmaları alevlendi.
3. YZ etiği ve “etik aklama”
Müfit Akyos/Herkese Bilim Teknoloji Dergisi/2.08.2019
Etiği ahlaktan ayıran en önemli özelliği, kişinin (bir disiplinin veya kurumun) çevresinde hazır bulduğu değer ve kuralları yaşamında benimseyip uygulaması ile sınırlamayıp bunlardan da yararlanarak ve toplumsal sorumluluk bilinci ile akli düzeyde tartışarak, sorgulayarak, temellendirerek, içinde bulunduğu topluluğun özelliklerinden beslenerek ilkeli ve evrensel bir düzeye taşıdığı değerler olmasıdır. Bu bağlamda üniversite kurumu ve araştırma eylemi için de etik en temel kavramlardan birisidir. Akademinin araştırmaları sonucu en önemli çıktısı olan bilginin toplum içindeki önemine bağlı olarak üretimi, kullanımı ve yayınımı her zaman bir etik konusu olmuştur. Konu önceki yazılarımızda önemi yeterince vurgulanan YZ teknolojisi olduğunda bu alanda üniversite-sanayi ilişkileri bağlamında etik daha da önem kazanmaktadır.
Bu nedenledir ki Johannes Gutenberg Üniversitesi profesörlerinden felsefeci Thomas Metzinger, Facebook’un Münih Teknik Üniversitesi’ne (MTÜ) yaptığı 7.5 milyon dolarlık bağışının samimi olmadığı, MTÜ’nün saygınlığına büyük bir darbe vurduğu ve akademi ile firmalar arasındaki bu tür bütün garip ilişkilerin araştırma bağımsızlığından ödün vermek anlamına geleceği görüşünde. Metzinger, YZ’nın etik tartışmaları üzerinden endüstrinin ellerini çekmesi konusunda üniversitelere seslenirken büyük teknoloji şirketlerinin akademik araştırmaları finanse ederek yarattıkları yanılsamalarla, “YZ üzerinden bir endüstri yaratılmak ve “etik aklama” yapılmak istendiğini iddia etmektedir.
Manchester Üniversitesi Veri Bilimi Enstitüsü Direktörü Magnus Rattray da Metzinger’in “etik aklama” endişesine katılarak “büyük teknoloji firmalarının vergilerini ödemelerini devletin ise bu merkezleri fonlamasının daha iyi olacağını” söylese de, “şirketlerin, “muazzam miktarda veriye” sahip olmalarının“iş dünyası ile çalışmayan bir YZ ve veri bilimi enstitüsünü göze almayı oldukça zorlaştır[dığını] eklemektedir.
Cambridge Üniversitesi’den sinirbilimci Aleksandr Kogan’ın on milyonlarca Facebook kullanıcısının profil verilerini Facebook’un kardeş şirketi Cambridge Analytica aracılığıyla 2016 yılında ABD Başkanlık seçimlerinde Donald Trump’ın olası seçmenlerini hedef alarak kullanması YZ’nın “kötü amaçlı” kullanımına en yakın ve en kötü örneklerinden birisidir. Cambridge’in açıklamalarından Facebook’la yıllardır ortak çalışmaların yapıldığını ve bu çalışmaların sonuçlarının Facebook çalışanlarıyla ortak yazarlı olarak yayınlandığını da öğreniyoruz.
2018’in başlarında Fransız Ecole Polytechnique YK çalışmaları için Google tarafından fonlanan yeni bir kürsünün kurulduğunu açıkladı. Google, Facebook, Uber ve Amazon ve neredeyse Silikon Vadisi’nin tamamının bu bağlamda temiz olduğunu söylemek zor. Eski bir Google reklam stratejisti olan James Williams,” Silikon Vadisi’nin araçlarının kişisel ve ortak irademizi ve özgürlüğümüzü baltaladığı” konusunda uyarıyor.Bilinen teknoloji firmalarının YZ özelinde teknoloji geliştirme sürecinde lekelenen imajlarını onarabilmek için etik kurullar oluşturdukları veya web sayfalarına etik kurallarını yayınladıklarını görüyoruz örn.; Google, Ericson).
Konunun daha ürkütücü boyutu ise teknoloji devlerinin Pentagon’la olan ilişkileridir. ABD Savunma Bakanlığı’nınşişirilmiş bütçesi ve CIA risk sermayesi, dolaylı veya doğrudan ABD askeri istihbarat kompleksine bağlıAmazon, Apple, Facebook, Google ve PayPal gibi teknoloji devlerini yaratmaya yardımcı oldu. Askeri ve istihbarat operasyonlarına yardım etmek için bu şirketlerle yapılan sözleşmeler, teknoloji devlerinin daha da büyümelerini sağlamaktadır.
OECD’nin YZ Prensipleri yayınlamasının yanı sıra bütün ülkelerin YZ Ar-Ge faaliyetleri için YZ etiği ilkelerinin oluşturularak kabul görmesini sağlaması yaşamsal önem taşımaktadır. YZ’yı vatandaşlarını izlemekte kullanmakla eleştirilen Çin’in 1 Haziran’da Beijing Academy of Artificial Intelligence aracılığıyla özel yaşam, onur, özgürlük, otonomi ve haklara saygı gibi kavramlara da gönderme yapan YZ Ar-Ge prensipleri kılavuzu yayınlaması önemli bir gelişmedir.
YZ gibi insanlığın geleceğini etkileyeceği öngörülen bir alanda öncelikle etik kavramı etrafında tartışma açılmış olması önemli ve olumludur. Çünkü belki bu sayede teknolojinin varlık nedeni ve kapitalist sistem içindeki yeri ve rolü ulus ötesi teknoloji firmalarının güdümünde değil, başta yeni işçi sınıfı olmak üzere daha geniş kesimlerin katılımı ile tartışılarak dünyamızın ve insanlığın aydınlık geleceği için nasıl kullanılması gerektiği konusunda kural ve düzenlemeler şekil bulur. İşte o zaman bir “devrimden” söz edilebilir.
İçinde olmadığımız bir oyunda hatta verilerimizi emanet ettiğimiz devletimizin bunları kolayca iktidarın kullanımına verebildiği bir ülkede yazdıklarımıza “zenginin malı …” diyenleriniz olabilir. Her zamanki gibi yazdıklarımız dünyayı izleyerek kopmamaya çalışmak ve geleceği inşa etmeye notlar düşmekten ibaret.