Nikki Gotik Itoi/29 Tem 2024
Stanford araştırmacıları, insanların yapay zeka hakkındaki ideal tercihlerindeki kültürel farklılıklara ilişkin ilk deneysel kanıtları sunarak,
kültürel açıdan kapsayıcı ve eşitlikçi bir yapay zekanın nasıl inşa edilebileceğini araştırıyor.
Yapay zeka ajanları, sadece arka planda çalışmak yerine insan sosyal hayatımızda aktif bir rol oynayabilselerdi, bu arzu edilir bir şey olur muydu? Cevap, kültürel bakış açınıza bağlı olabilir. Stanford araştırmacılarından oluşan bir ekip, insanların yapay zekadan ne istediğini incelemek için kültürel psikoloji teorisini uyguladığında, kültürel bağlamlarda yaygın olan kültürel ajans modelleri ile ideal kabul edilen yapay zeka türü arasında net ilişkiler buldular.
Günümüzde, AI geliştirmedeki hakim görüş, insanların teknoloji üzerinde kontrol sahibi olmak istediklerini ve AI’yı bireysel hedeflere ve kaygılara hizmet eden bir araç olarak gördüklerini varsayar. Bu, kişisel olmayan, hiyerarşik bir ilişkidir. Ancak Stanford psikoloji araştırmacısı Xiao Ge ve doktora sonrası araştırmacı Chunchen Xu, bu görüşün her yerdeki insanların AI hakkında düşünme biçimi olmadığını, bunun yerine birçok Avrupa-Amerikan orta sınıf kültürel bağlamında yaygın olan kültürel faillik modelini yansıttığını söylüyor.
Araştırmalarına göre, farklı gruplardaki kültürlere daha geniş bir bakış, birçok insanın AI’nın oynayabileceği rol hakkında farklı bir görüşe sahip olduğunu gösteriyor. Bazıları AI’nın çevresini etkileme konusunda daha yüksek bir kapasiteye sahip olduğunu öngörüyor (örneğin, bazı insanlar AI’nın hislere, duygulara ve özerkliğe sahip olmasını istiyor). Örneğin, bu yorumda bazıları kendiliğinden hareket edebilen ve sosyal durumlarına katılabilen akıllı makineler hayal ediyor.
“Gelecekteki AI gelişmelerinde farklı grupların algılarını, hayal güçlerini, endişelerini ve yaratıcılıklarını dahil etmeye acil ihtiyaç var. AI paydaşlarının AI’nın tasarımında ve kullanımında farklı dünya görüşlerinin temsilini artırmasını sağlamak istiyoruz, böylece nüfusun daha geniş kesimlerinin ihtiyaçlarını karşılayabilir,” diye açıklıyor Ge.
Ekip, bağımsız ve birbirine bağımlı kültürel modeller ve iki çevrimiçi anketin sonuçlarından yararlanarak, insanların yapay zeka ile ideal ilişkisini anlamak için teorik bir çerçeve geliştirdi ve bunu ” Kültür, İnsanların Yapay Zekadan İstediklerini Nasıl Şekillendiriyor ” adlı yeni bir makalede sundular. Stanford İnsan Merkezli Yapay Zeka Enstitüsü’nün Tohum Hibe Programı tarafından desteklenen bu çalışma, yapay zekanın ana akım kavramlarını tanımlamada kültürün rolü hakkında önemli konuşmaları teşvik ediyor.
HCI’da Kültürün Temelleri
Birçok insan-bilgisayar etkileşimi (HCI) çalışması, teknolojinin farklı ülkelerdeki insanlar üzerindeki etkisini araştırmıştır; ancak bugüne kadar çok az araştırmacı, kültürün yapay zeka tasarımını nasıl etkileyebileceğini veya yapay zeka ürünlerinin kültürel fikirleri nasıl yansıttığını incelemek için “konuşmayı tersine çevirmeye” çalışmıştır.
“HCI araştırmacıları kültürü ele aldıklarında, genellikle gelişimin daha sonraki aşamalarında oluyorlar; örneğin, kullanılabilirlik veya kullanıcı arayüzü tasarımı açısından. Ancak bulgularımız, kültürel faktörlerin teknolojinin ilk yaratılışını ve tasarımını ve tasarımcıların potansiyel faydalarını ve sonuçlarını nasıl hayal ettiklerini bile şekillendirebileceğini gösteriyor,” diyor Stanford Kültür ve Duygu Laboratuvarı direktörü ve makalenin ortak yazarlarından biri olan psikoloji profesörü Jeanne Tsai.
Çalışmanın tamamını okuyun: Kültür, İnsanların Yapay Zekadan Beklentilerini Nasıl Şekillendiriyor?
Kültür ve yapay zeka hakkında daha derin bir anlayışa ulaşmak için araştırmacılar, farklı kültürlerin “ben”i ve onun çevreleyen ortamlarla ilişkisini nasıl görme eğiliminde olduklarındaki farklılıkları tasvir etmek için iyi kurulmuş bir kültürel psikoloji çerçevesi uyguladılar. Bağımsız modelde, bireyler kendilerini benzersiz ve diğerlerinden ve sosyo-fiziksel bağlamdan ayrı olarak görürler. Buna karşılık, karşılıklı bağımlı model, herkesin temelde diğer insanlara ve fiziksel ve sosyal ortamlarına bağlı olduğunu savunur.
Bu çerçeve ayrıca bireylerin çevrenin onları etkilemesini isteyip beklemediklerini de içerir. Araştırmacılar bu faktöre “etkileme kapasiteleri” olarak atıfta bulunur. Bazı kültürlerdeki insanlar çevreyi düşüncelerini, duygularını ve davranışlarını yönlendiren bir etki kaynağı olarak görme eğilimindeyken, diğerleri çevrelerini aktif bir etki kaynağı olarak görmeye daha az eğilimlidir.
“Bu iki boyutu kullanmak, farklı kültürlere göre ideal insan-yapay zeka etkileşimlerini keşfetmemize yardımcı olabilir ve bunlar, baskın olarak bireyci, orta sınıf bağlamlarımızda hemen akla gelenlerden oldukça farklı olabilir” diyor ortak yazar, psikoloji profesörü ve Stanford SPARQ davranış bilimleri merkezinin fakülte direktörü Hazel Rose Markus.
İki Kültürel Modelin Merceğinden
Bu kültürel psikoloji çerçevesini uygulayarak, davranış bilimindeki önceki çalışmalar şunları ortaya koymuştur:
- Avrupa-Amerikan kültürel bağlamlarındaki insanlar, bağımsız bir faaliyet modelini benimseme eğilimindedir ve kişiyi çevreden daha büyük bir etki kaynağı olarak görürler. Bu kültürel model, insanları çevrelerinden daha aktif, canlı, yetenekli ve kontrol sahibi olarak temsil eder. Dahası, insanlar çevrelerini tercihleri, arzuları ve inançlarıyla daha tutarlı olacak şekilde değiştirmeyi hedeflerler.
- Çin kültürel bağlamlarındaki insanlar, birbirine bağımlı bir faaliyet modelini tercih etme eğilimindedir. Buna göre, insanlar ve çevrelerindeki ortamlar arasındaki sınırları geçirgen ve esnek olarak görebilirler. Bu bağlamda, insanlar sosyal ve fiziksel çevreyi kendilerini kapsayan bir şey olarak kavramsallaştırabilir ve çevrenin daha aktif, canlı ve insanlar üzerinde etki yaratma yeteneğine sahip olmasını tercih edebilirler.
- Afrika kökenli Amerikalıların kültürel bağlamlarındaki insanlar her iki kültürel modelin unsurlarını da benimsiyorlar ve tercihleri, çoğunlukla daha fazla birbirine bağımlı olan, çoğunlukla bağımsız bağlamlar ile çoğunlukla siyahların yaşadığı bağlamlar arasında geçiş yapma deneyiminden etkilenebiliyor.
Bu arka plana karşı, Stanford araştırmacıları Avrupalı Amerikalıların Çinli katılımcılardan daha fazla AI üzerinde kontrol arayacakları, Çinli katılımcıların ise Avrupalı Amerikalılardan daha fazla AI ile bağlantı arayacakları hipotezini öne sürdüler. Ve, önceki kalıplar geçerli olsaydı, Afrikalı Amerikalıların AI’yı kontrol etme ve onunla bağlantı kurma tercihleri Avrupalı Amerikalı ve Çinli kültürlerin tercihleri arasında yer alırdı.
Benzer şekilde, çevrenin bireyleri etkilemesi konusuna gelince, ekip Avrupalı Amerikalıların yapay zekanın etkileyici özelliklere sahip olmasını isteme olasılıklarının daha düşük, Çinlilerin ise bu özellikleri tercih etme olasılıklarının daha yüksek olmasını beklerken, Afrikalı Amerikalıların tercihlerinin bu ikisinin arasında kalmasını bekliyordu.
Teorik Varsayımların Test Edilmesi
Hipotezleri test etmek için ekip, öncelikle bu üç kültürel grubun aslında benlik ve çevreyle ilişkisine dair farklı modeller benimsediğini doğrulamak için bir anket oluşturdu. 373 katılımcı, benlik ve çevre arasındaki ilişkiyi temsil eden bir grafiğin “Çevre kişiyi güçlü bir şekilde etkiler”den “Kişi çevreyi güçlü bir şekilde etkiler”e kadar uzanan yedi farklı varyasyonuna baktı ve ikisi arasındaki ideal dengeyi en iyi tanımlayan resmi seçti.
Pilot çalışmada benlik ile çevre arasındaki ideal etki düzeyini ve yönünü ölçmek için kullanılan resimli 7 puanlık ölçek (sadece 1, 4 ve 7 örnek amaçlı sunulmuştur). 1 = “Çevre kişiyi güçlü bir şekilde etkiler,” 7 = “Kişi çevreyi güçlü bir şekilde etkiler.”
Beklendiği gibi bu araştırmanın sonuçları benlik ve çevre arasındaki ideal etki düzeyi ve yönü açısından kültürel farklılıklar ortaya koymuştur.
Bu ilk bulgulara dayanarak ekip, bu kültürel modellerin insanların AI hakkındaki tercihlerini nasıl etkilediğini inceledi. 348 katılımcının AI hakkında kısa bir açıklama okuduğu ve ardından ev yönetimi, refah, ekip çalışması, eğitim, orman yangını koruma ve üretim bağlamlarında farklı AI uygulamalarının altı rastgele atanmış senaryosundan birini gördüğü bir çalışma yürüttüler. (Örneğin, bir senaryo şöyleydi: “Gelecekte insanların fiziksel ve ruhsal sağlık durumları hakkında bilgi toplamak için bir refah yönetimi AI’sının geliştirildiğini hayal edin. İnsanların refah yönetimini iyileştirmek için özelleştirilmiş tahminler ve kararlar alır.”)
Çalışmanın son adımında, katılımcılar ideal bir durumda AI’ya yönelik tercihleriyle ilgili bir dizi soruyu yanıtladılar. Sorular, bağımsız/birbirine bağımlı kültürel modellerin yanı sıra AI’nın özerkliği ve algılanan duygusallığı gibi temel HCI özellikleriyle uyumlu olacak şekilde tasarlandı.
Hipotezleri Destekleyen Kanıtları Bulma
Araştırma ekibi verileri analiz ettikten sonra, kültürün hem insanların insan olmanın ne anlama geldiğine dair algılarını hem de insanların AI ile etkileşimlerinde ne istediklerini şekillendirdiğini öne sürdü. Özellikle, Avrupalı Amerikalılarla karşılaştırıldığında, Çinli katılımcılar AI’yı kontrol etmenin daha az önemli olduğunu ancak AI ile bir bağlantı hissine sahip olmanın daha önemli olduğunu düşündüler. Bu arada, Avrupalı Amerikalılar AI’nın daha az etki kapasitesine sahip olmasını tercih ettiler – daha az özerklik, kendiliğindenlik ve duygu ile.
Afrikalı Amerikalılar, AI üzerinde kontrol sahibi olma konusunda Avrupalı Amerikalılarla aynı fikirdeydiler, ancak AI ile bağlantı kurma arzuları açısından Avrupalı Amerikalılar ve Çinliler arasında kaldılar. Tahmin edildiği gibi, Afrikalı Amerikalıların AI için en iyi etki kapasitesi seviyesi tercihleri Avrupalı Amerikalılar ve Çinliler arasındaydı. Özellikle, araştırmacılar Çinli katılımcıların AI üzerinde kontrol sahibi olmaya üç kültür arasında en düşük önemi vermesine rağmen, ortalama puanlarının hala teknoloji üzerinde bir miktar kontrol sahibi olma arzusunu yansıttığını buldular.
Ge, “Eğitimden sağlık hizmetlerine ve bankacılığa kadar her kentsel işlevi optimize etmek için bir altın hücumu yaşanıyor, ancak kültürün bu kavramları nasıl şekillendirdiğine dair ciddi bir düşünce ve anlayış eksikliği var,” diyor. “Çalışmamız, literatürde ve yapay zeka geliştirme uygulamasında önemli bir boşluğu dolduruyor.”
Ekip, bu ön yaklaşımın gelecekteki çalışmalarda araştırılabilecek bazı sınırlamaları içerdiğini kabul ediyor:
- Anketlerde örneklem büyüklükleri nispeten düşüktü.
- Yapay zekanın tanımı kasıtlı olarak çok geniş tutulmuştur. İnsanların belirli yapay zekalar (örneğin sohbet robotları veya karar algoritmaları) hakkında ne hissettiğini anlamak daha da fazla içgörü sağlayabilir.
- Çalışmada, insanların bildirdikleri tercihlerin yapay zeka ile gerçek etkileşimlerle uyumlu olup olmadığı incelenmedi.
Bir sonraki adım olarak, insanların çevreleriyle ilişkili olarak ideal benlik modellerini yakalamak için geliştirdikleri yeni ölçümlerin güvenilirliğini ve geçerliliğini belirlemeye odaklanmak istiyorlar.
HCI Alanına Katkılar
Ortak yazarlar Markus ve Tsai’ye göre, bu bulgular insan-bilgisayar etkileşimi alanı için heyecan verici yeni içgörüler sunuyor. Ekip, bu çalışmayla yapay zekanın amaçları, biçimleri ve işlevleri hakkında kültürel olarak şekillendirilmiş tercihleri incelemek için titiz ve sistematik ampirik yaklaşımlar geliştirmenin mümkün olduğunu gösteriyor. Ayrıca, insan-bilgisayar etkileşiminin mevcut modellerine yerleştirilmiş örtük kültürel varsayılanları tanımanın önemine ışık tutuyorlar. Birçok Batı bağlamının bakış açısından, failliği paylaşılan veya kişinin dışında olarak hayal etmek zordur. Batı bağlamlarının dışında, bu mümkün, hatta apaçık.
Xu, “Önceden var olan kültürel modellere güvenmeye devam edersek, yaratıcılığı ve AI’nın dünya çapında insan koşullarını iyileştirme potansiyelini sınırlamamız muhtemeldir” diyor. Öte yandan, geliştiriciler insan faaliyetini yeniden düşünmeye ve daha geniş çeşitlilikte kültürel fikirlerden yararlanmaya başlarsa, AI’nın potansiyel toplumsal ve çevresel faydalarını genişleten yeni bir inovasyon çağının ortaya çıkabileceğini hayal etmek kolaydır.
Stanford HAI’nin misyonu, insan koşullarını iyileştirmek için yapay zeka araştırmalarını, eğitimini, politikasını ve uygulamasını ilerletmektir.
Bot: Bu yazının tercümesinde DeepL tercüme algoritması kullanılmış ve daha sonra revize edilmiştir.
https://hai.stanford.edu/news/how-culture-shapes-what-people-want-ai