23 Nisan 2025
Üretken Yapay Zeka (YZ) hızla önemli bir bilimsel araç haline geldi, ancak hızlanan entegrasyonu hem fırsatlar hem de zorluklar yaratıyor. Avrupa Parlamentosu Bilim ve Teknolojinin Geleceği Paneli (STOA) tarafından 29 Nisan 2025’te düzenlenen bir çalıştay , bu gerilimleri keşfetmek ve YZ’nin yeteneklerini kullanırken riskleri azaltan bir yol haritası çizmek için MEP’leri, Komisyon temsilcilerini ve önde gelen araştırmacıları bir araya getirecek.
“Elbette, konunuz için olası bir giriş…” diye başlıyordu 2024’te bir Elsevier bilimsel dergisinde yayınlanan bir makale . Düzenli ChatGPT kullanıcıları için bu dil çok tanıdıktır. YZ’yı ifşa etmeden kullandığı için geri çekilen makale, bilimde Generative YZ’nın kullanımı – ve kötüye kullanımı – hakkında tartışmayı ateşledi.
Üretken YZ, dönüştürücü modellere dayalı bir makine öğrenimi dalıdır : büyük miktardaki eğitim verilerindeki kalıplara dayalı olarak yeni çıktı üretebilen bir tür sinir ağı mimarisi. Buna ChatGPT, Claude ve Perplexity YZ gibi Büyük Dil Modelleri (LLM’ler) dahildir.
Bilim insanları, özetleme ve beyin fırtınasından makaleleri düzenleme, yazma ve hatta incelemeye kadar her şeyde yardımcı olması için LLM’leri giderek daha fazla kullanıyor . Araştırmacılar, 2024’te PubMed’de yayınlanan özetlerin en az %10’unun LLM’lerle yazıldığını tahmin ediyor ve ChatGPT, birkaç bilimsel makalenin ortak yazarı olarak bile listelendi .
Avrupa Komisyonu şu anda bilimde YZ kullanımını hızlandırmayı amaçlayan bir Avrupa YZ in Science Stratejisi yazıyor . YZ’nın bilimsel keşfe yardımcı olabileceğine ilişkin birkaç yarışmacı: Google DeepMind bilim insanlarının , 50 yıllık protein yapısı tahmini sorununu çözen bir YZ programı olan AlphaFold2’yi geliştirdikleri için Kimya Nobel Ödülü’nü kazandıklarında açıkça görüldü.
Bilimde üretken YZ modellerinin kullanılmasının faydaları daha fazla tartışılmaktadır. Endişeler arasında halüsinasyonlar, akademik suistimal ve olası telif hakkı ihlalleri yer almaktadır. Ancak üretken YZ’nın sorumlu kullanımı aynı zamanda bilimin erişilebilirliğini artırabilir, bilimsel iletişimi iyileştirebilir ve yaratıcılığı serbest bırakabilir.
Bu konular , 29 Nisan’da gerçekleşecek olan STOA çalıştayının ‘ Üretici YZ ve bilimsel gelişim ‘ odak noktasıdır . Etkinlik öncesinde, Avrupa Bilim-Medya Merkezi , Oxford Üniversitesi’nden (İngiltere) Profesör Sonia Contera ve Danimarka Kopenhag Üniversitesi’nden (Danimarka) Profesör Serge Belongie ve Danimarka Yapay Zeka Öncü Merkezi başkanı ile görüştü.
Halüsinasyonlar
Yapay zeka halüsinasyonları, bilimde üretken yapay zekanın kullanımıyla ilgili en büyük endişelerden biridir. LLM’lerin gerçekle kaygan bir ilişkisi vardır: uydurma akademik referanslar , sahte yazarlar ve başlıklar gibi anlamsız ve yanlış çıktılar üretme konusunda sürekli bir eğilimleri vardır. Bu, bilimsel doğruluk arayışıyla çelişir.
Hukuk alanında lisans programlarının halüsinasyon görme eğilimi göz önüne alındığında, kullanıcıların dikkatli olması gerekir.
Bu görüş, araştırmacıları “Genatif YZ’yı kullanırken eleştirel bir yaklaşım sürdürmeye ve YZ okuryazarlığını kazanmak ve sürdürmek için onu sorumlu bir şekilde nasıl kullanacaklarını sürekli öğrenmeye ” teşvik eden Avrupa Komisyonu’nun bilimde üretken YZ’nın sorumlu bir şekilde kullanılmasına ilişkin yönergelerinde de yankılanıyor.
Yapay zeka karmaşası, kağıt fabrikaları ve yapay zeka biliminin benzeri görülmemiş hızı
Fen bilimleri alanındaki LLM’lerle ilgili bir diğer endişe ise yapay zeka tarafından üretilen yanlış makalelerin yüksek kaliteli araştırmaları gölgeleme riskidir.
Serge Belongie buna ” YZ slop sorunu” adını veriyor ve “sahte konferans bildirileri, uydurulmuş veriler, intihal ve var olmayan referansların alıntılanması”nı içeriyor . Üretken YZ, ‘ kağıt fabrikaları ‘ ile ilgili önceden var olan sorunu daha da kötüleştirecek : sahte, kalitesiz bilimsel yazılar üreten ve yazarlığı satan işletmeler. Tehlikede olan şey bilimin güvenilirliğidir.
Yapay zeka destekli bilimin muazzam hızı da bir zorluk teşkil ediyor. Üretken yapay zekanın doğuşundan önce bile, bilimsel yayın sayısında bir artış vardı. Şimdi LLM’ler saniyeler içinde makale yazabildiğinden, bu artış daha da kötüleşecek. Gerçekten de, yayın sayısı o kadar artabilir ki, insan araştırmacılar yetişemez hale gelebilir ve bu da onları yapay zeka tarafından oluşturulan özetlere bağımlı hale getirebilir.
Bilim insanlarının yazdıkları makalelerin sayısını en üst düzeye çıkarmak için teşvik edildiği bir ‘yayınla ya da yok ol’ bilimsel topluluğu bu riskleri daha da kötüleştirir. Sonia Contera’nın açıkladığı gibi: “Başarının ölçütlerinden biri de yayın sayısıdır ki bu başlı başına çılgınca bir şeydir. İnsanlara yayın yaptıkları için puan veriyoruz, böylece insanlar sistemi kandırıyor. Bu bağlamda, yapay zeka ortalığı karıştırıyor. Yapay zeka ile makaleleri çalkalayabilirsiniz. Yani yayın dünyası daha önce bozulduysa, şimdi kaos olacak. ”
YZ incelemecileri
Yapay zeka sohbet robotları giderek artan bir şekilde araştırma makalelerini akran denetiminden geçirmek için de kullanılıyor. ChatGPT’nin lansmanından önce ve sonra 146.000 akran incelemesinde ‘övgüye değer’, ‘yenilikçi’, ‘titiz’ gibi yapay zeka moda sözcüklerini izleyen araştırmacılar, akran inceleme raporlarının %17’sinin artık sohbet robotları tarafından önemli ölçüde değiştirildiğini buldu . Yapay zeka incelemecilerinin yükselişiyle birlikte, birçok kişi canlı bilimsel diyaloğun, bilimin makineler tarafından makineler için yürütüldüğü otomatik bir alışverişe dönüşmesinden korkuyor.
Bilim insanları üzerindeki zaman baskısı soruna ekleniyor. Yukarıdaki çalışmanın baş yazarı, Stanford Üniversitesi’nde bilgisayar bilimcisi olan Weixin Liang’ın belirttiği gibi: ” İnsanların zaman sıkıntısı olduğunda, ChatGPT kullanma eğiliminde oldukları anlaşılıyor .” Sonia Contera da aynı fikirde: ” Bilim insanları aşırı çalışıyor, sürekli olarak teklifleri incelemeleri isteniyor. Dolayısıyla, elbette insanlar bu teklifleri ChatGPT’ye koyuyor.”
Akran değerlendirmesinin otomasyonu, bilim insanlarının makaleleri kendilerinin yazması için teşvikleri azaltacaktır. Serge Belongie’ye göre, ” eğer değerlendiriciler yapay zeka araçlarıyla tembelleşir veya özensiz davranırsa, bu durum güveni aşındırır ve zaten fazla çalışmış ve az ücret almış hissedebilecek bilim insanlarının motivasyonunu düşürür. ” Bu da yapay zeka tarafından üretilen makalelerin kullanımını artırabilir ve kısır bir döngüyü körükleyebilir.
Telif hakkı sorunları
Yapay zeka değerlendiricileriyle ilgili bir diğer risk de telif hakkıyla ilgilidir. LLM’lere gizli ve yayınlanmamış materyallere erişim hakkı veriliyor. Sonia Contera’nın belirttiği gibi, “Fikri mülkiyetimizi veriyoruz. Bu çok büyük bir risk. Teklifinizi bir bulut deposunda sakladığınızda, hüküm ve koşulları bilmiyorsunuz. Onlar mı sahip?”
EC’nin Bilimde Üretken Yapay Zeka yönergelerine göre, araştırmacılar “hassas faaliyetlerde, örneğin akran değerlendirmelerinde veya değerlendirmelerde, GenYZ araçlarını kullanmaktan kaçınmalıdır. ” Ancak, üretken yapay zekanın kullanımından tamamen kaçınmak, yapay zekanın akran değerlendirmesini iyileştirme fırsatlarını engelleme riski taşır. LLM araçları, akran değerlendirmesi geri bildirimlerini düzenleyebilir ve araştırma makalelerindeki hataları tespit edebilir . Üretken yapay zeka – sorumluluk kullanımı – şimdi yöneldiğimiz birçok olumlu fırsat sunar.
Gelişmiş erişilebilirlik ve iletişim
LLM’ler bilime giriş engellerini düşürebilir, sınırlı bütçeli araştırmacıların temel bilimsel konularda ilerleme kaydetmesini sağlayabilir. Ayrıca bilim insanlarının yeni alanlara hızla aşinalık kazanmalarına yardımcı olarak disiplinler arası araştırmalara da yardımcı olabilirler.
Serge Belongie şöyle açıklıyor: “ LLM’ler, istatistiksel analizden iPhone uygulamalarına kadar her şey için kod yazma konusunda insanların giriş engelini önemli ölçüde düşürüyor. Sonuç olarak, örneğin Bilgisayar Bilimi alanında hiçbir geçmişi olmayan bir moleküler biyolog, artık ilaç keşfine yardımcı olmak için önemsiz olmayan kodlar yazabilir”.
Üretken YZ bilimsel iletişime de yardımcı olabilir. LLM’ler göz açıp kapayıncaya kadar bilimsel sonuçların sunumunu farklı kitlelere uyarlayabilir. Örneğin Google’ın NotebookLM gibi araçlar , birkaç saniye içinde bilimsel bir makaleden iki sunuculu bir podcast oluşturabilir. Ayrıca, LLM’ler ana dili İngilizce olmayan araştırmacıların dil bilgisi ve kelime bilgisi önerileri sunarak İngilizce okumalarına ve iletişim kurmalarına yardımcı olabilir.
Yaratıcılığı serbest bırakmak
Bazı araştırmacılar, yapay zekanın bilimsel keşif sürecini tamamen otomatikleştirebileceğine inanıyor . Örneğin, Sakana YZ yakın zamanda uluslararası bir yapay zeka konferansında hakem değerlendirmesinden geçen tamamen yapay zeka tarafından oluşturulmuş bir makale ürettiği için manşetlere çıktı.
Sonia Contera ve Serge Belongie, LLM’lerin fikir üretmeye ve bilgileri hızla özetlemeye yardımcı olarak bilimin yaratıcı sürecini destekleyebileceği konusunda hemfikir. ” Hata yaptığında bile faydalı olabilir. Birisiyle ek bir diyalog gibi,” diye ekliyor Sonia Contera .
Ancak her ikisi de YZ’nın bir ikame değil, bir insan aracı olduğunu vurguluyor. Serge Belongie’nin belirttiği gibi, “YZ, hipotezler önererek veya çözüm yönleri vaat ederek yaratıcı süreçte yardımcı olabileceği bir geliştirme aşamasındadır, ancak bu tür sistemleri düzenlemek için hala zeki insanlara ihtiyaç duyulmaktadır […] tam otomasyona giden yol hala bilim kurgudur.”
Bilimde üretken yapay zekanın sorumlu kullanımını artırmak
Peki, üretken YZ’nın bilimde daha sorumlu bir şekilde kullanılmasını nasıl sağlayabiliriz? Serge Belongie ve Sonia Contera ile yaptığımız görüşmede, bilimdeki başarısız başarı ölçütlerini ele almak ve çalışma koşullarını iyileştirmek temel alanlar olarak ortaya çıktı.
Yapay zeka eğitimini geliştirmek bir diğeridir. LLM’ler birçok fırsat sunar – ancak yalnızca yapay zeka okuryazarı bilim insanlarının elinde. Bilimsel yayıncılar ve gözden geçirenler için, yapay zekanın bir makaleyi yazmak ve/veya gözden geçirmek için nasıl kullanıldığına dYZr net şeffaflık gereklilikleri, doğrudan yapay zeka yasaklarının aksine, ileriye giden yol gibi görünüyor.
AB düzeyinde, politika yapıcılar, Avrupa değerlerini güçlendirmek ve dijital egemenliği sağlamak için üretken YZ geliştirmenin önemini kabul ediyor. Avrupa Komisyonu’nun son YZ kıtası eylem planı, araştırmacıların yeterli bilgi işlem gücüne erişimini sağlamak için Avrupa genelinde en az 13 YZ fabrikası ve beş YZ gigafabrika kurma hedeflerini içeriyor. Bu, Avrupalı bilim insanlarının üretken YZ’nın ödüllerini toplamasına yardımcı olmakta çok önemli olacak.
Serge Belongie’nin açıkladığı gibi : ” Dil, görüş veya diğer modaliteler için Büyük Modeller Eğitimi, bilindiği üzere hesaplama açlığıdır. Bu, Avrupa araştırma laboratuvarlarının süper bilgisayar tesislerine düşük sürtünmeli erişime ihtiyaç duyduğu anlamına gelir . Bir çözüm, örneğin YZ Fabrikaları Girişimi aracılığıyla süper bilgisayar erişimindeki engelleri azaltmaktır . ”
Sonia Contera, AB’nin üretken yapay zekanın enerji taleplerini karşılamak için yeni, daha enerji verimli bilgi işlem sistemlerine yatırım yapmasını öneriyor. Ayrıca yapay zeka konusunda özel-kamu ortaklıklarının güçlendirilmesi ve riskli, yenilikçi bilim için daha fazla fon sağlanması ihtiyacına da işaret ediyor.
Belki de en önemlisi, Prof. Contera ” AB’nin demokratik değerler tarafından yönlendirilmeye devam etmesi gerekiyor. Politika yapıcılar, sadece kendileri veya lobi yapan şirketler için değil, Avrupa’daki gerçek vatandaşlar için neyin iyi olduğuna odaklanmalı. “ diyor.