Çeviri: Nezih Kazankaya/ Baba Sinha*
Çoğumuz ChatGPT, DALL-E ve Mid Journey gibi YZ araçlarını kullandık ve bu araçların neler yapabildiğine hayran kaldık. ChatGPT ile etkileşim kurmak, aklımıza gelebilecek hemen hemen her soruyu cevaplayabilen, karmaşık konuları basit kelimelerle açıklayabilen, makaleleri özetleyebilen ve hatta şiir, Shakespeare benzeri düzyazı, denemeler ve ödevler yazabilen gerçek bir insanla konuşmak gibi hissettiriyor. DALL-E ve Mid Journey, sanatsal becerileri olmayan insanları sanatçılara dönüştüren komutlardan muhteşem görüntüler üretebiliyor. Haberler, YZ araçlarının hukuk, matematik ve tıp sınavlarını geçtiğini heyecanla duyurdu. ChatGPT tarafından tıbbi araştırma dergileri için yazılan özetler, bilim insanlarını bunları insanların yazdığına inandırdı. Bu araçların kullanılması ve YZ etrafındaki durmak bilmeyen medya abartısı, hayatlarımızı değiştirecek benzersiz bir teknolojik devrimin ortasında olduğumuza dair genel bir algı yarattı.
Genel inanış, insanların yapabileceği çoğu görevi yerine getirebilecek insan benzeri zekaya sahip makineler yaratmanın eşiğinde olduğumuz veya halihazırda yarattığımız yönündedir; bu da çoğumuzu gereksiz hale getirir ve bir dizi iş fırsatını ortadan kaldırır. Milyonlarca fabrika işinin otomasyona ve gazetecilerden, yazarlardan ve içerik oluşturucularından avukatlara, öğretmenlere, yazılım programcılarına ve doktorlara kadar bir dizi profesyonele yaklaşan sonunu duyuran tonlarca makale ortaya çıktı.
Bu araçlar ne kadar muhteşem olsa da, gerçekten “zeki” mi? ChatGPT aslında onunla yaptığımız soruları veya etkileşimleri anlıyor mu ve yanıt verdiğinde konuyu anlıyor mu? Bu araçlar muhteşem resimler veya şiirler üretirken sanatçılar gibi düşünüyor mu? YZ uzmanları da dâhil olmak üzere birçok kişi, bu araçların “yapay genel zeka kıvılcımları” veya insan benzeri zeka – YZ araştırmalarının kutsal kasesi – gösterdiğini iddia etti. Makinelerin insan zekasına eşit ve daha sonra onu geride bırakacak “YZ Tekilliği” noktasına ulaşacağı konusunda harika iddialar ortaya atılıyor. Ancak, bu tür iddialara kanmamalıyız. Bu YZ araçları aslında insan zekasına yakın hiçbir şeye sahip değil ve mevcut YZ araştırma eğiliminin öngörülebilir gelecekte böyle akıllı sistemler üretmesi olası değil. Metin, resim veya hatta kod ürettiklerinde, konu hakkında hiçbir anlayışları veya ustalıkları y
Üretken YZ adı verilen bu araç kategorisi, internette halka açık olan hemen hemen tüm metin ve resim verilerini içine alarak çalışır. Daha sonra verilerdeki istatistiksel kalıpları öğrenirler, yani hangi kelime veya ifadenin bir kelimeden veya cümlenin bir kısmından sonra gelme olasılığı yüksektir. Ürettikleri metin veya görseller, bu öğrenilmiş istatistiksel kalıplar kullanılarak kendilerine verilen metnin bir yeniden karışımıdır. Bir konuyu anladıklarına veya bu konuda usta olduklarına inanmamızı sağlamak için gördükleri metin ve görselleri etkili bir şekilde yeniden ısıtıp önümüze koyuyorlar.
Yukarıdakiler, bu araçların yararlı veya etkileyici olmadığı anlamına gelmez. Çalışmalarımıza yardımcı olmak için bizim için muazzam bir değere sahip olabilirler. Sadece “zeki” değillerdir ve bunlara tamamen güvenmek yanlış ve zaman zaman feci sonuçlara yol açabilir. Örneğin, cep telefonlarımızdaki otomatik tamamlama özelliği telefonda yazarken oldukça yararlıdır ancak düzeltme yapmadan otomatik tamamlama önerilerine tamamen güvenmek yazım hatalarına ve kullanıcının amaçlamadığı şeyleri iletmeye yol açar. Bu özelliği tamamen güvenmeden veya gerçekten akıllı olduğunu düşünmeden bir yardımcı olarak kullanırız. Üretken YZ araçlarının çoğu bu doğrultuda düşünülmeli ve kullanılmalıdır. ChatGPT, makaleleri veya pasajları özetlemek veya yeniden ifade etmek ve hatta belirsiz ve karmaşık bir şekilde yazılmış metni basitleştirmek için yararlıdır ancak hiçbir konuda güvenilir yanıtlar vermez veya haber makaleleri veya akademik makaleler yazarken insanların yerini almaz. Benzer şekilde, copilot gibi kod üreteçleri çok yararlı araçlardır ancak hiçbir ciddi programcı, oluşturulan kodu dikkatlice incelemeden olduğu gibi almaz. Sorun, günümüz iş dünyasındaki abartı ve maliyet düşürme kültürü göz önüne alındığında, bu araçların tamamen ya da çok az denetimle insanların yerini almak için kullanılacak olması ve çoğu durumda kalitesiz ve hatta bazen tamamen yanlış çıktılara yol açmasıdır. Öte yandan, yanlış bilgi yaymak ve insanları manipüle etmek için kullanılabilecek deepfake videolar gibi şeyler üretmek için kullanılan üretken YZ’ya karşı korunmamız gerekiyor.
YZ tarafından üretilen sanat, edebiyat ve filmlerle ilgili etik kaygılar da var. YZ görünüşte yeni sanat eserleri üretirken, aslında mevcut görsellerin ve sanat eserlerinin sanatsal stilinden ders çıkarıyor ve ardından içeriği kopyalamadan stili yeniden üretebiliyor, böylece intihal suçlamalarından kurtuluyor. Ancak gerçekte, bu tür sanatlar yüksek teknoloji intihaline denk geliyor çünkü modeller yaratıcılıktan yoksun ancak öğrenilmiş istatistiksel kalıplara dayalı içerik üretiyor.
Şimdiye kadar tartıştığımız YZ programlarının türü, üretken YZ kategorisine girer. İçerik üretmek için değil, kararlar veya tahminler yapmak için kullanılan başka YZ türleri de vardır. Bu tür YZ programları geçmiş verilere bakar ve gelecekteki sonuçları tahmin etmek veya şeyleri tanımlamak ve sınıflandırmak için istatistiksel korelasyonlar geliştirir. Bunlar son zamanlarda dünya çapında birçok işletmede, devlet kurumunda ve hizmette kullanılmaktadır. İnsanların yasal sigorta taleplerini, tıbbi ve hastane yardımlarını ve devlet sosyal yardımlarını reddeden çok sayıda YZ karar sistemi örneğimiz var. ABD’deki YZ sistemleri, azınlıkların daha uzun hapis cezalarına çarptırılmasında rol oynamıştır. Hatta azınlık ebeveynlerin, çocuklarını düzgün bir şekilde besleyecek ve onlara bakacak yeterli paraya sahip olmamalarına dayanan sahte istatistiksel korelasyonlara dayanarak ebeveynlik haklarının geri alındığına dair raporlar bile var.
İnsanlar bu YZ sistemlerine dayanılarak hastaneye yatırılmamış ya da uygun tıbbi bakımdan mahrum bırakılmıştır. Bu sistemler neredeyse her zaman sorunludur ve karşı çıkılması gerekir. Bu sistemleri eğitmek için sağlanan veriler genellikle bilimsel olarak kontrol edilmediğinden ve bu sistemlerin kararlarını vermek için geliştirdikleri istatistiksel korelasyonlar neredeyse hiçbir zaman kamuya açıklanmadığından, arkalarındaki bilim şüphelidir ve bu da onları belirsiz ve keyfi hale getirir. Bu sistemler genellikle işletmeler ve hükümetler tarafından maliyetleri düşürmek ve müşterilere ve yurttaşlara sağlanan yasal faydaları reddetmek için kullanılırlar
YZ algoritmaları, sosyal medya şirketleri tarafından sosyal medya akışımızda hangi içeriğin gösterileceğini belirlemek ve ayrıca içerik denetimi gerçekleştirmek, yani hangi gönderilerin veya görsellerin politikaları ihlal ettiğini ve kaldırılması gerektiğini belirlemek için kullanılır. Bunlar, uygunsuz veya nefret söylemini gerçekten tespit etme açısından pek işe yaramazlar, bunun yerine, iktidar partisini ve liderlerini ve Gazze’deki İsrail soykırımı gibi insanlara ve ülkelere yönelik Batı destekli saldırıları eleştiren gönderileri kaldırarak içerik denetimi adına açıkça sansür uygulanmasıyla sonuçlanan, yetkililer için politik olarak sakıncalı olan kelimeleri veya konuları hedef alırlar. Sahte haberlerin yayılması ve nefret dolu filtre baloncuklarının yaratılması yoluyla sosyal medya algoritmalarının neden olduğu tahribatı çok iyi biliyoruz.
Peki ya YZ robotlarının sanayi işçilerinin yerini alması? Gerçek dünyada fiziksel şeyler yapmak karmaşıklık, tekdüzelik, düzensizlik ve beklenmedik durumlarla başa çıkmayı gerektirir. Ayrıca bunları sadece okumak değil, gerçekten yapmak için pratik yapmayı da gerektirir. İşte bu nedenle fabrikalardaki iş gücünün otomatikleştirilmesinde ilerleme son derece yavaş olmuştur. Robotlar yalnızca belirli otomobil montaj hatlarında olduğu gibi aynı katı nesneleri içeren sabit tekrarlı görevleri yerine getirebilirler. Sürücüsüz otomobillerle ilgili yıllarca süren abartıdan ve bu konudaki araştırmalar için ayrılan büyük fonlardan sonra bile, tam otomatik sürüş yakın gelecekte hala uygulanabilir görünmüyor. Belki de ironik olan, yaygın olarak beklendiği gibi mavi yakalı işlerin yerini almak yerine, konuşmadan metin kopyalama, dil çevirisi veya çağrı merkezi işleri gibi belirli beyaz yakalı işlerin YZ tarafından alınmasının daha olası olmasıdır.
Bütün bunlar tüm YZ’ların kötü veya işe yaramaz olduğu anlamına gelmiyor.
Birçok YZ programı kesinlikle yararlıdır ve düzgün bir şekilde kullanılır ve sınırlamaları bilinerek yardımcı araçlar olarak ele alınırsa harikalar yaratabilir. Ancak, YZ endüstrisinin kendisi ve medya tarafından YZ etrafında yaratılan çıkarcı abartı çok orantısız. YZ kesinlikle tüm sorunlarımızı çözmeyecek. Ayrıca tüm işlerimizi elimizden almayacak ve süper zeki bir YZ’nın kontrolden çıkıp insanlığı yok etmesi veya köleleştirmesi gibi bilim kurgu senaryoları yakın zamanda gerçekleşmeyecek. Çok daha olası olan şey, YZ programlarının ve hizmetlerinin yeterli test ve denetim olmadan kullanılması ve reklamı yapıldığı gibi performans göstermemesi veya insanların sosyal yardımlar, hastane hizmetleri ve sigorta talepleri gibi hak ettikleri hizmetlere erişimini engelleyerek onlara zarar ve zorluk çıkarmasıdır. Bu tür belirsiz sistemlerin kullanılmasına karşı dikkatli olmalı ve hükümetlerimizi bu tür sistemlerin kullanımını düzenlemeye zorlamalıyız.
* Virtunet Systems’in Baş Teknik Sorumlusu ve Hindistan Özgür Yazılım Hareketi’nin bir üyesidir. Sinha, gömülü sistemler ve yazılım konusunda uzmanlaşmış, teknoloji endüstrisinin 25 yıllık bir emektarıdır.
https://peoplesdemocracy.in/2024/1110_pd/will-ai-take-over-world-and-all-our-jobs