M.Nilgün Ercan
Avrupa Komisyonu Ortak Araştırma Merkezi (JRC) tarafından hazırlanan, “Teknoloji, Toplum ve Politikanın Kesişimini Araştırmak” temalı Üretken YZ Görünümü Raporu 2025 yapay zekanın sosyal, teknolojik ve ekonomik dünyayı dönüştüren ve yeniden şekillendiren rolünü ele alıyor. AB özelinde politika yapıcılar için bir kaynak olması amaçlanan Rapor’ da konunun teknolojik yönleri, ekonomik etkileri, toplumsal etki ve sorunları, düzenleme çerçevesi ve sektörel örnekler bölümler halinde ele alınıyor. Bu yazıda, oldukça kapsamlı olan Rapor’ un dikkat çeken bazı yönleri üzerinde kısaca durulacaktır.
Genel kapsam
Üretken YZ’ nın akademik araştırmalardan bugün dönüştürücü bir teknoloji kimliği kazanmasına kadar uzanan bir yolcuğu olmuştur. AB ve diğer küresel oyuncular YZ‘ nin yarattığı fırsatlar ve aşılması gereken sorunlar konusunda belirleyici durumdadır. YZ’ nin toplumsal ve ekonomik yararlarına en üst düzeyde ulaşmak için stratejik ve etik bir yaklaşım gerekmektedir. Tanımlayıcı ve kestirimci YZ modellerinin aksine Üretken YZ modelleri insan yaratıcılığını taklit ederek, geniş kapsamlı veri setlerinden metin, görüntü, video, müzik, kodlar gibi yeni içerik üretmektedir. Bu durum sağlık hizmetlerinden bilimsel araştırmaya kadar Üretken YZ’ ye dönüştürücü bir teknoloji özelliği kazandırmaktadır.
Üretken YZ’ nin araştırma yapısı üniversiteler, araştırma enstitülerinin çalışmaları, özel sektör tarafından gerçekleştirilen inovasyon ve bilginin yayılması ile inovasyonu teşvik eden ortak projelerden oluşmaktadır. Çin akademik araştırmalarda başı çekerken AB ikinci sırada onu takip etmektedir.
Ancak tahmin edileceği üzere, Üretken YZ‘ nin önemli bir potansiyeli olmasına karşılık sorumlu bir şekilde uygulanabilmesi için aşılması gereken sorunlar da vardır. YZ tarafından üretilen içeriğin önyargılı olması ya da YZ ‘nin karar verme sürecinde şeffaflığa ihtiyaç duyulması gibi etik sorunlar kritik önem taşımaktadır. Üretken YZ’ nin gelişmesi ve kullanılmasında düzenlemelerin yapılmasına ihtiyaç vardır. Politika yapıcılar, etik sorunların yanı sıra piyasa dinamikleri, çevresel etkiler, verilerin korunması, fikri mülkiyet, yanlış ve sahte bilgilendirme gibi konulara ilişkin karmaşık hususları dikkate almalıdır.
Rapor’ da Üretken YZ ile ilgili araştırma, inovasyon veya yatırım yapan, bu alanda faaliyet gösteren organizasyonlar üretken YZ oyuncuları olarak tanımlanmaktadır. Şekil 1‘ de Üretken YZ oyuncularının küresel dağılımı gösterilmektedir. Çin faaliyetler ve oyuncular açısından ilk sırayı almakta, onu ABD takip etmektedir. AB ise küresel oyuncular bazında %7’ lik bir paya sahiptir.
Rapor’ da AB‘ nin üretken YZ alanındaki araştırma faaliyetlerinin 2019 ve 2021 arasında hızla arttığı, buna karşılık patent başvuruları konusunda Çin açık ara önde iken, AB’ nin ABD ve Güney Kore’ nin arkasında olduğu belirtilmektedir. AB içerisinde ise patent faaliyetlerinde sırasıyla Almanya, Fransa, Hollanda ve İspanya gelmektedir. AB’ deki başlangıç (start up) şirketleri, ABD’ deki risk sermayesi yatırımları ile kıyaslandığında daha fazla güçlükle karşılaşmakta olup stratejik olarak desteğe ihtiyaçları vardır. Almanya ve Fransa bu konuda önemli ölçüde risk sermayesi çekmekle birlikte AB çapında Üretken YZ ekosistemini güçlendirmek için daha sağlam yatırımların yapılması gerekmektedir.
Dengeli bir YZ gelişimi sağlamak için veri, altyapı ve modeller ile ilgili tüm fırsatları ve sorunları birlikte dikkate almak gerekmektedir. Ortak Avrupa Veri Alanları ile YZ fabrikaları, AB değerleri temelinde, mevcut yasal yapı üzerine inşa edilen yönetişim yaklaşımları ile parçalı veri altyapılarını koordineli ve güvenilir şekilde birleştirmeye hizmet edecektir. Üretken YZ aşama kaydettikçe sağlayabileceği potansiyele tam olarak ulaşabilmek için, veri yönetişimi, birlikte işletilebilirlik, mahremiyet ve bilgisayar becerileri ile ilgili sorunları çözmek önem kazanacaktır.
Veriler ve modeller
Yüksek kalitede geniş veri setlerine erişmek Üretken YZ uygulamalarının etkinliği için kritik önem taşımaktadır. Büyük Dil Modelleri gibi ilk nesil Üretken YZ modellerindeki hızlı ilerleme, modellerin internette kullanıcılar tarafından üretilen çok kapsamlı içerik ile eğitilmesi sonucunda ortaya çıkmıştır. Mevcut web bazlı kamuya açık veri halihazırdaki modellerde zaten kullanılmış olup, bunun yanı sıra YZ tarafından üretilen içerik de hızla yayılmaktadır. İnterneti besleyen içerik YZ tarafından üretildikçe YZ tarafından üretilen verileri belirlemek ve eğitim için kullanılan setlerin kontaminasyonunu önlemek ciddi bir sorun olmaya başlayacaktır. Veri kaynağının belirlenmesi birçok uygulamayı olumlu etkileyecek, özellikle yanlış/yanıltıcı bilginin yaygınlaşmasının azaltılmasına yardımcı olacaktır. AB’ nin parçalı olan dijital ekosistemi için FAIR (verinin bulunabilir, erişilebilir, karşılıklı işletilebilir ve yeniden kullanılabilir olmasını sağlamak) ilkesine uygun veri paylaşımı önemlidir. Bu amaçla büyük ölçekte veri paylaşımının teknik ve örgütsel yönlerini çözmek üzere gelecek Avrupa Veri Birliği Stratejisi kapsamında Ortak Avrupa Veri Alanları geliştirilmektedir.
Üretken YZ modellerinin kompleksliği, modelin sahip olduğu parametrelerin sayısının artmasıyla verilerdeki karmaşık ilişkileri artan şekilde öğrenme ve yansıtma potansiyeli olarak tanımlanabilir. Model boyutu ya da parametre sayısı her altı ayda ikiye katlanmaktadır. Halen büyük modellerin büyüklüğü yüzlerce trilyonluk parametre ölçeğinde iken, daha küçük olanlarda ise milyarlarca düzeyindedir. Üretken YZ modellerinin performansı tam olarak büyüklüğüne değil, mimarisi, eğitim teknikleri ve eğitim için kullanılan verinin sayısı ve kalitesine de bağlıdır. Bu nedenle AB, YZ modellerinin gelişimini desteklemek için yeterli bilgisayar gücü ve veriye erişim temin edebilen merkezlerde yüksek performanslı bilgisayar (HPC) ve giga fabrikalara yatırım yapmaktadır.
Üretken YZ için önemli konulardan biri de açık kaynak ile tescilli modeller arasındaki tercih yapmaktır. Açık kaynak modelleri isteğe göre düzenlenebilir ve uyarlanabilir olup model geliştiricilere mevcut çerçeveler üzerine ve özel ihtiyaçlara göre modeller oluşturma olanağı vermektedir. Açık kaynağın temelinde, şeffaflık, açıklanabilirlik, dolayısıyla güvenlik risklerini ve onları belirlemek için harcanacak zamanı en aza indirecek şekilde etik, hesap verebilirlik ve yeniden üretilebilirlik hususlarını sağlamak bulunmaktadır. Ek olarak, lisanslama maliyetlerini ortadan kaldırarak (genellikle açık kaynakta olduğu gibi), açık kaynak Üretken YZ modelleri kişiler, araştırma kurumları, KOBİ’ler için erişilebilirdir ve satıcıya bağımlı olma durumunu ortadan kaldırmaktadır. Bu nedenle Rapor’ da açık kaynak modellerinin AB’ nin demokrasi, iş birliği, kapsayıcılık ve şeffaflık gibi değerleriyle uyumlu olduğu belirtilmektedir.
Açık kaynak modelleri önemli avantajlar sağlarken bu alanın tescilli olanlar kadar hızlı gelişmesinin sağlanmasını ve stratejik otonomi açısından önemli olan hususları da dikkate almak gerekmektedir. Teknik olarak bir model açık kaynak olarak tanımlandığında, modeli eğitmek ve çalıştırmak için kullanılan kaynağın kodu, model ağırlıkları (modelin eğitimi sırasında öğrendiği temel parametreler), mimarisi ve veri kullanımına ilişkin tüm bileşenlerine ilişkin bilgilerin açıklanması anlaşılmaktadır, ayrıca eğitim verileri de paylaşılır; ancak bu durum yasal ve telif kısıtlamaları nedeniyle her zaman mümkün olmayabilir. Açıklık kavramı üzerinde tartışmalar vardır; çoğu durumda sadece model ağırlıkları paylaşılmaktadır.
Rapor’ da Üretken YZ’ nin başarısının altyapıya ve bileşenlerine, güçlü donanıma, hesaplama kapasitesine, etkin veri depolama çözümlerine, yüksek hızlı bağlanırlığa dayalı olduğu; Üretken YZ’ nin desteklenmesi için veri merkezleri altyapısının genişlemesi ve optimizasyonunun AB için zorunluluğu üzerinde de durulmaktadır. Yakın gelecekte Üretken YZ modellerinin gelişmesi karşısında artan enerji talebi ile siber güvenliğin kritik konular haline geleceği, daha küçük modellerin ve özel donanımın geliştirilmesiyle enerji verimliliğinin iyileştirilmesinin gerekli olduğu belirtilmektedir.
AB için önemi
Üretken YZ AB için stratejik önemde bir değer taşımakta, ekonomik büyüme, inovasyon ve toplumsal ilerleme için fırsatlar sağlamaktadır. AB’ deki politika belirleyicilerin önünde duran görev, Üretken YZ’ nin etik meseleler, düzenlemeye ilişkin hususlar ve gerekli olan becerilerle ilgili sorunlarının karmaşıklığını yönetmek, büyüme ile rekabet gücünü korumak için öne çıkan fırsatları değerlendirmektir. Üretken YZ ‘ nin hızla evrimleşmesi nedeniyle politika yapıcıların en son gelişmelere ayak uydurmak, düzenlemelerin etkin ve güncel olmasını sağlamak ve geleceğe yönelik politikaları oluşturmak için sürekli araştırmayı desteklemesi gereklidir.
Kamuda ve özel sektörde karar verici konumda bulunanlar, YZ sistemlerinin potansiyelinden yararlanabilmek için kişilere gerekli olan eğitim ve öğrenim programlarını verebilecek yatırımları sürdürmelidir. YZ tarafından üretilen içerik yaygınlaştıkça, bu teknolojilere duyulan aşırı güven ve bağımlılık eğitimde, sanatta ve kamusal düşüncede yeni sosyal ve etik kaygıların ortaya çıkmasına neden olacaktır. Genel olarak YZ özel olarak da Üretken YZ insan yaratıcılığını ve üretkenliğini arttırarak iş akışını hızlandırıp alternatif eğitim deneyimleri yaratacaktır. Diğer yandan kritik düşünceyi, ince ayrıntıları anlamayı ve bu sistemler olmadığında kullanılabilecek kapasitelerimizi gerileterek insani becerileri azaltacaktır. Üretkenlik alanındaki kazanımlar ile bilişsel erozyon arasındaki gerilim nedeniyle politika yapıcılar eğitim ve sağlık gibi hassas alanlarda YZ’ nin akılcı bir şekilde kullanımını desteklemelidir. YZ’ nin insan becerilerinin yerini alacak değil, onları arttırmak için kullanılacak bir araç olduğu unutulmamalıdır.
Teknolojik yönler
Üretken YZ modelleri ve sistemlerinin potansiyel riskleri ve sınırlarını anlamak için standartlaştırılmış değerlendirme metodolojileri ve ölçütlerinin geliştirilmesine gerek duyulmaktadır. Üretken YZ’ nin değerlendirilmesinde, güvenilir ölçütlerin oluşturulması, açıklanabilirliğin ve öngörülebilirliğin iyileştirilmesi ve güvenliğin sağlanmasında insanların sürece dahil edilmesine ihtiyaç vardır. Üretken YZ’ yi değerlendirme ölçütlerinin gözden geçirilmesi için yeni metodolojilerin gelecek yıllarda gelişmesi beklenmekte olup, bağımsız karar alabilen sistemler olan Ajan (Agentic) Üretken YZ’ nin güvenliğinin değerlendirmesi üzerine daha fazla odaklanılması gerekecektir.
Sistemin açıklıklarını bulan siber güvenlik uzman grupları, insan odaklı çalışmalar, A/B testleri ve insan seviyesinde performans referanslarının geliştirilmesi dahil Üretken YZ’ nin değerlendirilmesinde insan unsuru önemli bir rol oynamaktadır. İnsan yeteneklerini aşan, insanlar açısından bilinemeyen ve fark edilemeyen özelliklerin ve güvenlik konularının değerlendirilmesi giderek daha önemli hale gelecektir. Üretken YZ’ nin bilimsel gelişiminin değerlendirilmesi için çoklu paydaşların ve çoklu meslek disiplinlerinin birlikte çalışmasını sağlayacak inisiyatiflere gereksinim duyulmaktadır.
Siber güvenlik sorunları
Üretken YZ sistemleri veri ve model zehirlenmesi (poisoning), düşmanca saldırılar gibi bilinen siber güvenlik tehditlerine, YZ ‘ ye özel korunmasızlıklara ve üretilmiş içeriğin kötü amaçlarla kullanımına açık durumdadır. Bu sorunların önemi, üçüncü taraf veri ve modellerine bağımlı oldukça daha artmaktadır. Geleneksel siber güvenlik uygulamaları ve prosedürleri konvansiyonel yazılım sistemleri için etkin olmakla birlikte, Üretken YZ sistemlerini etkileyen geniş kapsamlı açıklıklar karşısında sınırlı kalmaktadır. Diğer bir husus ise, YZ siber güvenliğinin, örneğin model gibi sadece tek bir bileşen üzerinden düşünülmemesi gerektiğidir. YZ sistemleri çok sayıda bileşen ve araçtan oluşur; bu nedenle güvenlik hem tüm bileşenler ve eğitimde kullanılan veri setleri gibi sistemle ilişkili kaynaklar da göz önünde bulundurularak ele alınmalıdır.
Tedarik zincirine saldırılar
Veri zehirlenmesi: Üretken YZ temel modellerinin başarılı bir şekilde eğitilmesi, ağırlıklı olarak eğitimde kullanılan verilerin ölçek ve çeşitliliğine dayanır. Üretken YZ sistemlerinin ön eğitiminde kullanılan ilk kaynak internetteki kapsamlı veri setleridir; ancak bunlar genellikle doğrulanmamış veriler olup bazen de zararlı içeriklerdir. Veri setleri üzerinde hassas bir kontrolün olmaması bunları saldırılara açık bir alan haline getirir. Saldırganlar hasmane amaçlarla bazı verileri ekleyerek kötüye kullanma yoluna gidebilir; bu fırsatları kullanarak açıklıklar, arka kapılar veya önyargılar ekleyebilir. Bu durum modelin performansına gölge düşürüp, yanlış bilginin yayılması gibi zararlı sonuçlar veya emniyetsiz kodların önerilmesi gibi güvenlik riskleri doğurabilir.
Model zehirlenmesi: Model geliştiriciler özellikle açık parametreli modellere güvendiğinde, Üretken YZ sistemleri farklı model zehirlenmesi saldırılarına açık hale gelebilir. Açık kaynak platformları üzerinden dağıtılan modeller, modelin kaynak kodu ya da arka kapılarına yerleştirilmiş kötü amaçlı yazılımlar nedeniyle gizli tehlikeler içerebilir. Bu tehlikeler başta aktif olmayabilir; sadece modele belirli sözcük veya ifadelerden oluşan girdiler yüklenmesi gibi bazı koşullarda tetiklenebilir. Bu durum onların tespit edilmesini güçleştirir ve modeli uyuyan bir ajan haline getirebilir. Son zamanlarda araştırmacılar, saldırganların ön eğitimden geçmiş modellere, ince ayar ve ilave güvenlik eğitimleri sonrasında bile varlıklarını koruyan arka kapılar ekleyebildiklerini göstermiş, bu da endişeleri arttırmıştır.
Doğrudan istem enjeksiyonu (Direct prompt injection)
Bu durum, kullanıcının verdiği komut ile üretken modelin çıktısı veya işletimi istenmeyen şekillerde değişirse meydana gelir; bu değişiklikler kılavuzları ihlal etmek, zararlı içerik üretmek, yetkisiz erişime açmak veya kritik kararları etkilemek yönünde olabilir. Bu tür müdahalede kötü niyetli kullanıcı yanlış kullanım, mahremiyeti ihlal veya yapısal bütünlüğü bozma gibi birçok amacına ulaşabilir.
Bilgi ekstraksiyonu
Üretken YZ, yaşam döngüsü boyunca saldırganların ilgisini çekecek çok kapsamlı bilgiye maruz kalmaktadır.
Veri sızıntısı: Hassas veya gizli bilginin yetkili olmayan kişilere açık olması halinde oluşur; bunlar gizli eğitim verileri, kişileri tanımlayıcı bilgiler veya telifli materyal olabilir. Hassas verilerin sızması Üretken YZ tedarikçilerinin yasal işlemlerle veya cezalarla karşı karşıya kalmasına ve itibarlarının ve rekabet avantajlarının zarar görmesine neden olabilir.
Modeli tersine çevirme: Saldırganlar eğitim verilerinin yeniden yapılandırılması veya model çıktılarından hassas bilgilerin elde edilmesi yönünde girişimde bulunabilir. Bu durumda bilgisayar korsanı modelin çıktılarından tersine mühendislikle eğitim verilerinden örneğin sağlık kayıtları, kişisel bilgilere ulaşır; modelin tersine çevrilmesi mahremiyetin ihlali ile sonuçlanabilir.
Model ekstraksiyonu: Saldırganlar kendi kopyalarını yapmak için uzak bir modelden parametreleri çıkarmaya da teşebbüs edebilirler. Bu tür bir eylem eğitim verileri ile de ilgili olabilir. Model ekstraksiyonu modelin parametrelerinin çalınmasını amaçlar; eğitim verilerinin çıkarılması ise söz konusu parametreleri üretmek için gereken eğitim verilerini elde etmeyi hedefler. Son zamanlarda araştırmacılar model- çalma saldırıları ile üretim sistemlerindeki Üretken YZ modellerinin kara-kutusundan önemli bilgilerin elde edilebileceğini göstermiştir.
Dolaylı istem enjeksiyonu (Indirect prompt injection)
Bu durum ise üretken YZ modelinin bir web sayfası veya dosya gibi bir dış kaynaktan girdi alması halinde oluşur. Kötü niyetli bir üçüncü tarafın dolaylı olarak modele müdahale etmesi, işletim ve çıktılarını istenmeyen şekilde değiştirmesi ile meydana gelir.
Teknolojide yeni eğilimler
Rapora göre, YZ teknolojisindeki yeni eğilimler arasında şunları saymak mümkündür:
Ajan YZ: Bağımsız karar alabilen, çıktılardan öğrenen ve geri besleme mekanizmalarıyla kendini düzeltebilen otonom sistemler; insan müdahalesi olmadan karar verebilen bu sistemler, insan- YZ etkileşimi konusunda ve herhangi bir şey yanlış gittiğinde kim sorumlu olacak gibi yeni sorular doğurmaktadır.
Multi-model YZ: Farklı veri formatlarını entegre eden, çok yönlülüğü geliştiren ama önyargı sorunları çıkaran sistemlerdir.
İleri düzey YZ kavrayışı: İnsan kavrayışını simüle ederek, kompleks bilgileri çözümleyerek ve mantıklı sonuçlar çıkararak karar verme sürecini geliştiren sistemlerdir; bilişsel faaliyetler YZ üzerine yüklendikçe insanın bilişsel yeteneklerinin erozyona uğrama riski ortaya çıkabilir.
YZ’ de anlaşılabilirlik: YZ sistemlerinin anlaşılabilir gerekçeler vermesine yönelik ihtiyaç giderek artmaktadır. Üretken YZ modelleri hassas alanlarda daha kompleks görevler üstlendikçe karar verme sürecine dayanak olan gerekçelerin anlaşılabilir olması daha fazla önem kazanmaktadır.
Bu gelişmeler teknolojik açıdan devrimci nitelik taşısa da politika yapıcılar açısından telif hakları, bir yandan YZ okuryazarlığına öncelik verirken aynı zamanda etik hususların gözetilmesi, YZ sistemlerinde şeffaflık ve açıklanabilirlik konusunda standartların yürürlüğe girmesi, kaynakların sürdürülebilir kullanımı gibi dikkate alınması gereken birçok konu ortaya çıkmaktadır.
YZ’ nin dönüştürücü etkisinden örnekler
Rapor’ un bu bölümünde Üretken YZ’ nin birçok alandaki dönüştürücü etkisi ele alınırken pozitif yönleri yanında ortaya çıkabilecek sorunlara da dikkat çekilmektedir.
Sağlık
Üretken YZ sağlık alanında, elektronik sağlık kayıtlarının oluşturulması ve kullanılması, ilaç geliştirme faaliyetlerinin hızlandırılması, kişiye özel ilaçta ilerleme sağlanması, hastalıkların önlenmesi ve erken teşhisin gelişmesi, sağlık hizmetlerinin daha verimli hale gelmesi, sağlıkta haksızlıkların ele alınması gibi birçok pozitif etki yaratmaktadır. Bununla birlikte, bu etkilerin ne derece yaşama geçebileceği, YZ geliştiricileri, klinik tedavi uzmanları, araştırmacılar ve düzenleyicilerin, üretken YZ’ nin sağladığı olanaklar ile risklerinin dengelenmesini sağlayıp sağlayamayacaklarına bağlı olacaktır. Dikkat edilecek hususlar arasında, veri önyargıları, sağlıktaki adaletsizliklerin yayılması, klinik tedavi uzmanlarının niteliğinin gerilemesi, bunların yanı sıra otomasyona fazla güvenme ve önyargı neticesinde sağlık hizmetlerinde insani boyutun zarar görmesi gibi riskler de yer almalıdır.
Bu durum sadece düzenlemeye ilişkin bir mesele olmayıp, sağlık hizmetlerinin sorumlu bir şekilde yerine getirilmesi ile ilgilidir. Ayrıca, kronikleşmiş şekilde finansman yetersizliği ile karşı karşıya olan sağlık hizmetlerinde gündeme gelecek kapsamlı bir girişim, merkezi olmayan bilgi teknolojisi altyapısına önemli oranda yatırım yapmayı da gerektirmektedir.
Eğitim ve öğrenim
Üretken YZ’ nin eğitime entegre edilmesi, öğrenme, öğretme ve değerlendirme ortamını dönüştürmektedir. Teknolojik yenilenme, eğitim ve öğrenimi şekillendirmekte hatta bozabilmektedir. Üretken YZ’ nin bu alanda etkin ve sorumlu olarak kullanılabilmesi amacıyla uzmanlıklar ve politikaların geliştirilmesi için politika yapıcılar, eğitimciler ve öğrencilerin birlikte çalışmasına ihtiyaç vardır.
Eğitim politikaları, bireylerin hak ve egemenliğinin gözetilmesini, teknolojik determinizm ile etik standartlar arasındaki gerilimin yönetilmesini sağlayacak şekilde eğitim alanındaki Üretken YZ araştırmalarını desteklemelidir. Politikalar akademik ve eğitim alanındaki dürüstlüğü koruyacak şekilde tasarlanmalı ve müfredat, YZ hakkında ve YZ ile birlikte yapılan öğrenimi sistematik olarak bütünleştirecek şekilde revize edilmelidir. YZ sistemleri eğitim ortamı ile bütünleştikçe kişisel öğrenme, etkin yönetim, eğitim kaynaklarında demokratikleşme gibi olanaklar sunabilir; ancak bu dönüşüm sürecinde etik ilkeleri, yönetişim ve YZ kullanımının eğitim-öğrenim kriterleri ile uyumlu olması gibi konuları da gözden kaçırmamak gerekir.
Bilim
Üretken YZ bilim alanını da yeniden şekillendirmektedir. Bir yandan çok kapsamlı yaratıcılık ve verimlilik sağlarken öte yandan bilimsel doğruluğun/sağlamlığın ihmal edilmemesi hususunda dikkatli olunmalıdır. Üretken YZ erişimi demokratikleştirip, işbirliğini güçlendirip bilim alanında ilerleme sağlamaktadır. Ancak potansiyel önyargılar, baskın anlatıların güçlenmesi gibi riskli konularda dikkatli olunmalı, YZ’ nin insanların uzmanlığı ile dengeli olarak bütünleştirilmesi sağlanmalıdır. Bilimsel metot, bilimsel kavrayışı oluşturan sistematik bir yaklaşımdır. Araştırmacıların bir soruyu ortaya atarak başlattıkları süreç, bir hipotezin ortaya konması, literatürün taranması, deneylerin planlanması, gözlemlerden hareketle sonuçlara varılması ve bunların paylaşılması ile devam etmektedir. Üretken YZ bilimsel araştırma sürecinin her aşamasını etkilemekte, araştırma metodolojisini değiştirmekte; disiplinler arası çalışma ve kapsayıcı işbirliğine olanak sağlamaktadır.
Siber güvenlik
Üretken YZ siber güvenliğin sağlanmasında da faydalı olabilir:
Üretken YZ sosyal mühendisliğe karşı savunma sağlayabilir. İstenmeyen veya kimlik hırsızlığı amaçlı sahte mesajlar gibi sosyal mühendislik saldırıları kişileri etkileyerek veya manipüle ederek, istemeden ya da bilmeden siber suçlulara erişim sağlanmasına yol açabilir. Bu tür kötü niyetli girişimlere karşı, Üretken YZ gelen e-posta, sohbet ve sosyal medya mesajlarındaki metin, ses veya video içeriklerini inceleyecek şekilde uygulanabilir. Bu tür girişimlerin yönetişiminin yanı sıra, Üretken YZ belirli bir içeriğin neden potansiyel olarak riskli olduğunu açıklayabilir.
Üretken YZ sistemleri siber tehlikelerin saptanması, anlaşılması ve azaltılması fonksiyonlarını yerine getirebilir. Bu fonksiyonlar geleneksel derin öğrenme yaklaşımları ile yapılabilirse de üretken YZ daha kapsamlı bilgi dizilerine dayalı olduğundan bu tür görevleri yerine getirirken aynı zamanda siber güvenlik uzmanlarına sorunun iç yüzünü anlama ve öneriler konusunda yardımcı olabilir.
Sistemlerin güvenlik testleri ve açıklıklarının saptanması üretken YZ ile daha hızlı, daha otomatik şekilde, daha isabetli ve kapsamlı yapılabilir. Ancak, mevcut durumdaki Üretken YZ yaklaşımları daha az karmaşıklıktaki hedeflerde otomatik penetrasyon testlerini yapabilirken daha sofistike durumlarda insan müdahalesi gerekmektedir.
Yazılım geliştiriciler siber güvenliğin yaşam döngüsü boyunca önemli rol oynamakta olup, kodun güvenliği onların bu alandaki bilgisine ve eğilimine bağlıdır. Buna bağlı olarak kaza ile veya kötü niyetli kod açıklıkları söz konusu olabilir. Üretken YZ önceden üretilmiş kodun bu tür açıklıklarını anlamada yardımcı olabilir. Mevcut Üretken YZ metotlarına dayanan gelişmiş yaklaşımlar daha basit sayılabilecek açıklıkları doğru olarak anlayabilir ve bunlara ilişkin öneriler verebilir. Buna karşılık, güvenlik testlerinde olduğu gibi, daha geniş içerik ve karmaşık çıkarım gerektiren daha kompleks sorunlarla ilgili durumlarda doğruluk derecesi azalır.
Üretken YZ, hangi uzmanlık seviyesinde olursa olsun bireylerin güvenlik eğitimine destek olabilir. Güvenlik farkındalığı eğitimi için hazırlanmış müdahale araçları ve malzemeler sağlayabilir; bunun yanı sıra herhangi bir formel eğitim programının parçası olarak siber güvenlik senaryoları ve egzersizlerini otomatik olarak üretebilir.
Üretken YZ yapay zekaya erişimi demokratikleştirerek siber güvenlik alanını değiştirmektedir. Bunun sonucunda kötü niyetli unsurlar ve güvenlik uzmanları daha büyük ölçekte daha karmaşık saldırıları başlatmak veya savunmak için hazırlıklı ve yetenekli olmak durumuyla karşı karşıyadır. Ana sorun, insanların YZ ile konuştukları, talimat verdikleri, soru sordukları, birlikte mantık yürüttükleri ve karşılıklı karar verdikleri doğal dil arayüzünden gelmektedir. YZ- bazlı yardımcıların kullanıcılar tarafından insana benzetilmesi ile YZ’ nin ikna edici çıktılar üretme kapasitesi birleşince insanın bilişsel ve kavrayış kırılganlıklarını hedef alma riski artmaktadır. İnsan odaklı önlemleri ve kritik düşünmeyi güçlendiren etkileşim tasarımlarını bulmak ve konunun içeriğine göre otonomi seviyelerini ayarlamak zorunludur.
Kamu sektörü ve kamu hizmetleri
Üretken YZ kamu sektörü ve hizmetlerinin teminini de dönüştürecek bir potansiyele sahiptir, ancak bu alanda kullanılması, diğer alanlarda olduğu gibi kompleks sorunlar ve fırsatlar yaratmakta, dikkatli bir gözetim ve stratejik bir özeni gerektirmektedir. Üretken YZ’ nin kamu sektöründe güvenli, etik ve yasal olarak kullanılabilmesi, riskleri ile yararlarının ele alınabilmesi için etkin bir yönetişim ve düzenleme yaklaşımı gerekmektedir.
Kamu yönetiminde Üretken YZ daha fazla yer aldıkça yeni araştırmalar ve stratejik açıdan yeni sorular ortaya çıkmaktadır. Bu sorular ulusal, örgütsel ve bireysel seviyede olabilmekte ve Üretken YZ’ nin nasıl gelişeceği, uygulanacağı ve yönetileceği konularında hükümetlerin, kurumların ve kamu görevlilerinin değişen rollerini ortaya koymaktadır. Bu süreçte, kamu yönetimi Üretken YZ’ nin kamu sektöründe güvenli, etik ve yasal kullanımına ilişkin çerçeve ve kılavuzları oluşturmak durumundadır.
Diğer Konular
Rapor’ da üretken YZ’ nin ekonomik etkileri, toplumsal etkisi ve sorunlar, düzenleme yapısı da ayrı bölümler halinde ayrıntılı olarak ele alınmıştır.
Üretken YZ’ nin, sanayideki dönüşüm ve yeni iş modellerinin ortaya çıkışı sonucunda ekonomik yapıları etkileyeceği, üretkenlik artışları ve yeni iş olanakları yaratacağı belirtilmektedir. İşgücü piyasası üzerine olan etkileri, gelir eşitsizliği, mesleklerin yeniden yapılanması, ihtiyaç duyulan işgücü niteliklerinde değişim gibi konulara, özellikle KOBİ’lerde dijital gelişmenin önemli hale geldiğine dikkat çekilmektedir.
Toplumsal alanda üretken YZ’ nin yeni olanaklar ve bunun yanı sıra yeni sorunlar yaratacağı bilinmektedir. Olumlu açıdan, yaratıcı becerileri arttırarak veya daha geniş kesimlerin bilgiye erişebilmesini sağlayarak kaynaklara ve fırsatlara erişim konusunda daha kapsayıcı ve eşitlikçi koşullar oluşturabilecektir. Öte yandan, YZ tarafından üretilen içeriğe aşırı bağımlılık ve önyargı gibi dikkate alınması gereken önemli sorunlar da ortaya çıkmaktadır. Politika yapıcıların üretken YZ’ nin sorumlu bir şekilde uygulanması için, dezenformasyon, zihinsel sağlık, sahte ve aldatıcı bilgiler, toplumsal önyargılar gibi olumsuz hususların YZ çıktılarıyla sürdürülmesi gibi konulara özel dikkat göstermesi gerekmektedir.
Üretken YZ’ nin geliştirilmesi ve kullanılması konusunda AB kapsamında düzenleyici bir yapı oluşturulmasının temel bir mesele olduğuna dikkat çekilmektedir. YZ Yasası ve Genel Veri Koruma Regülasyonu (GDPR) bu konudaki ana düzenlemeler olup, bir yandan inovasyonu öne çıkarırken bunun yanında şeffaflık, güven, emniyet ve temel hakların korunmasını da sağlamaktadır. Verileri korumaya yönelik düzenlemelerin uygulanmasının, YZ ve üretken YZ koşullarında ayrıntılı olarak izlenmesi ve değerlendirilmesine devam edilmelidir. Kişisel veriler kavramı ve bunların YZ modellerinde işlenmesi yasaya uygunluk, hesap verebilirlik ve verilerin temini gibi açılardan daha fazla araştırma ve inceleme gerektirmektedir. Ayrıca, YZ fikri mülkiyet hakları alanında da üzerinde durulması gereken meseleler ortaya çıkarmıştır. Düzenlemeler yapılırken iki hususun dikkate alınması gerekmektedir.: bir yanda yaratıcıların fikri mülkiyet haklarının korunması diğer yanda ise inovasyonu hızlandırmak için YZ geliştiricilerin kendi modellerini eğitmek amacıyla içeriğe erişiminin sağlanması göz önünde bulundurulmalıdır.
Sonuç
Dijital teknoloji arama motorlarından başlayarak bugünkü yapay zeka uygulamalarına kadar gelen bir yol almış olup yeni gelişmelerin olması ve teknolojinin birçok alana nüfuz etmesi beklenmektedir. Rapor’ da sonuç olarak AB’ nin bu alandaki konumuna ve geleceğe ilişkin saptamalar yer almaktadır. Avrupa’ nın küresel Üretken YZ alanında ABD ve Çin’in arkasında yer almasına karşılık AB’ nin rekabet gücünü korumak için başlangıç şirketleri ve kurulu şirketlerle dinamik bir ekosistem oluşturması gerekliliğine işaret edilmektedir. Bunun için yatırımlar, beceriler, inovasyon ve YZ çözümlerinin gelişmesi ve hayata geçirilmesini güçlendirecek bir ortamın yaratılması gereklidir. Üretken YZ genel amaçlı bir teknoloji olup sağlık hizmetlerinden eğitime, ulaşımdan ve çeşitli sanayi dallarından işgücüne kadar yaşamın farklı alanlarına nüfuz edecektir. Buna bağlı olarak geniş kapsamlı sonuçları dikkate alan bütüncül bir yaklaşımın geliştirilmesi gerekmektedir.
Generative AI outlook report – Publications Office of the EU
Cover page and decorative elements, © danjazzia / stock.adobe