Avrupa Birliği Yapay Zeka Yasası Üzerine Sohbetler adlı podcast’e hoş geldiniz . Risto Uuk ile birlikte Avrupa’nın yapay zeka yasasının uygulanması, yaptırımı ve etkisini inceliyoruz.
Avrupa Komisyonu’ndaki Avrupa Yapay Zeka Ofisi Direktörü Lucilla Sioli, Risto Uuk ile birlikte Ofisin AB Yapay Zeka Yasasını nasıl uyguladığını ele alıyor. Sohbetlerinde, genel amaçlı yapay zeka kurallarının uygulanması, bilgi taleplerinin pratikte nasıl işlediği ve Uygulama Kodunun model uyumluluğundaki rolü inceleniyor. Ayrıca, Ofisin büyüyen ekibi ve kaynak zorlukları, diğer güvenlik kuruluşlarıyla karşılaştırmalar ve endüstri, araştırmacılar ve sivil toplumun Avrupa yapay zeka yönetişimine nasıl dahil olabileceği konularına da değiniliyor.
Görüşme metni:.
Risto Uuk: Bugünkü konuğum Lucilla Sioli. Kendisi Avrupa Komisyonu’nun DG CONNECT birimindeki AB Yapay Zeka Ofisi’nin direktörü. Bence bu konuşma çok ilginç çünkü AB Yapay Zeka Ofisi sanırım 2024 yılında kuruldu ve şimdi Avrupa’da yapay zeka yönetişimiyle ilgili her şeyin merkezinde yer alıyor; buna AB Yapay Zeka Yasası’nın genel amaçlı yapay zeka kurallarının uygulanması, Avrupa yapay zeka stratejisinin koordinasyonu ve inovasyon tarafında Yapay Zeka Kıta Eylem Planı ve Yapay Zeka Stratejisi Uygulama gibi konular da dahil. Avrupa Yapay Zeka Ofisi’nin yaptığı çok şey var, bu yüzden bu konuşma için çok heyecanlıyım. Lucilla, AB Yapay Zeka Sohbetleri podcast’ine hoş geldiniz.
Lucilla Sioli: Beni davet ettiğiniz için çok teşekkür ederim.
Risto Uuk: Zaman ayırdığınız için çok teşekkür ederim. Bu tür çalışmalara nasıl dahil oldunuz? Belki kariyer yolculuğunuzu bize anlatabilirsiniz. Avrupa Komisyonu ile nasıl bir bağlantınız oldu? Geçmişte dijital dosyalar ve diğer alanlarda çalıştınız ve şimdi de Yapay Zeka Ofisi’ni yönetiyorsunuz. Bu nasıl oldu?
Lucilla Sioli: Bu çok iyi bir soru, çünkü ben bir ekonomistim, mühendis veya teknoloji uzmanı değilim. Endüstri ekonomisi alanında uzmanlaşmış bir ekonomistim ve endüstri ekonomisi ve oyun teorisi alanlarında iki doktora derecem var. Günümüzde yapay zeka üzerinde çalışırken, oyun teorisi eğitimi almış olmanın çok faydalı olduğunu görüyorum. Tabii ki, doktora sürecimde programlama ve kodlama yapmak zorunda kaldım, bu yüzden teknolojiyi anlayabiliyorum, diyelim. Oyun teorisi eğitimi almış olmak, yapay zekayı anlamamı çok daha kolaylaştırdı diye düşünüyorum. 90’ların sonundan beri Komisyon’da çalışıyorum. Ekonomi ve finans departmanında ekonomist olarak başladım, daha sonra dijital teknolojilerin ekonomisine geçtim çünkü o zamanlar bu henüz üzerinde çalışılan bir alan değildi. Oradan kariyerime Yapay Zeka Ofisi’nde devam ettim. Önceki görevimde sorumluluklarım arasında yapay zeka ve dolayısıyla Yapay Zeka Yasası’nın tasarımı ve müzakereleri de vardı. Ancak bu tek sorumluluğum değildi. Ayrıca yarı iletkenler ve diğer endüstriyel teknolojilerden de sorumluyum. Bunu vurgulamak istiyorum çünkü bu, yapay zekanın gelişmekte olan teknolojilerden ana teknolojilerden birine dönüştüğünü gösteriyor ve bu nedenle artık tamamen yapay zekaya adanmış bir ofisimiz var.
Risto Uuk: Şu anda tamamen yapay zekaya adanmış ofisinizde kaç kişi çalışıyor?
Lucilla Sioli: Şu anda 150’den fazla çalışanımız var ve hâlâ yeni personel alımı yapıyoruz. Bunların yarısının araştırma ve inovasyon politikaları üzerinde, diğer yarısının ise Yapay Zeka Yasası’nın uygulanması üzerinde çalıştığını söyleyebilirim.
Risto Uuk: Dikkatimi çeken bir şey, oyun teorisi üzerine çalışmış ve bu alanda araştırmalar yapmış olmanız. Bu çok ilginç, çünkü birkaç meslektaşımla birlikte yapay zeka geliştirme ve yarış dinamikleri için oyun teorisi üzerine bir makale yayınladım. Belirli senaryolarda, şirketlerin güvenliğe çok yatırım yapması oyun teorisi açısından oldukça mantıklıyken, diğer senaryolarda tam gaz ilerlemek daha rasyonel olabilir. Oyun teorisi, Yapay Zeka Ofisi’ndeki düşüncelerinizi nasıl etkiliyor? Nasıl kullanıyorsunuz? Aslında oldukça faydalı olduğunu söylediniz.
Lucilla Sioli: Yapay zekanın nasıl çalıştığını, nasıl öğrenebileceğini anlamak için daha faydalı. Bu anlamda oldukça yararlı çünkü farklı öğrenme yöntemleri için tekniklerin tasarımında açıkça kullanılıyor. Ama makalenizi ilgiyle inceleyeceğim.
Risto Uuk: Bunu sizinle paylaşacağım. Yapay Zeka Ofisi’nin direktörü nasıl oldunuz? Birçok farklı teknoloji üzerinde çalıştığınızı ve yapay zekanın şu anda baskın teknoloji haline geldiğini söylediniz. Bu nasıl oldu? Temelde sadece iki yaşında olduğu için, bu işi tamamen sıfırdan geliştirdiniz.
Lucilla Sioli: Evet. Daha önce dijital endüstri direktörüydüm -bu benim unvanımdı- ve teknolojilerden biri de yapay zekaydı. Sanırım Avrupa Komisyonu’nda yapay zeka ile ilgilenen ilk direktör bendim, bu yüzden doğal olarak Yapay Zeka Ofisi direktörü oldum. Dediğim gibi, teknoloji çok hızlı gelişiyor, bu yüzden Avrupa’da bir Yapay Zeka Ofisi’ne ve bu teknolojinin geliştirilmesine, aynı zamanda güvenliğine adanmış bir dizi insana sahip olmamızın çok iyi olduğunu düşünüyorum.
Risto Uuk: Tamamen katılıyorum. Avrupa ekosistemi ve pazarı için büyük bir kazanım. Çalışmalarınız ve tüm bunları kurduğunuz için teşekkür ederim. Yapay Zeka Ofisi’ni kurarken en ilginç bulduğunuz şey neydi? En zorlayıcı olan neydi?
Lucilla Sioli: Bence en ilginç yanı, teknolojinin çok hızlı ilerlemesi. Her gün yapay zekâ hakkında yeni bir şey ortaya çıkıyor. Durum asla istikrarlı değil ve bu son aylarda çok açık bir şekilde görüldü. Medyada yapay zekâ hakkında haber olmayan bir gün olduğunu sanmıyorum. Teknolojinin hızlı evrimi çok heyecan verici. Benim için ayrıca, Avrupa Komisyonu’nda, özellikle Yapay Zekâ Yasası’nın uygulanması için, ama sadece bununla sınırlı kalmayarak, yeni insanları işe alma fırsatına sahip olmam da çok heyecan verici. Birçok genç insanı çekmeyi başardık. Bence bir bakıma, kariyerlerin genellikle planlı ve uzun olduğu Avrupa Komisyonu gibi bir kurumda bu deneyimi yaşama ve ofislerimize yeni bir soluk getirme fırsatına sahip olduğum için çok şanslıydım. Onları orada görmek ve fikirlerini, zekalarını ve yetkinliklerini Avrupa Komisyonu’nun çalışmalarına getirmelerini görmek her gün çok heyecan verici.
Risto Uuk: İnsanların tatil yapması gereken yaz aylarında da birçok şeyin yaşanmış olması sizi heyecanlandırdı mı?
Lucilla Sioli: Hayır, ama kendimizi organize etmeye çalışıyoruz. Tabii ki, iş sürekliliğini sağlamak için organize oluyoruz, bu yüzden insanlar farklı zamanlarda tatil yapıyorlar. Yaz aylarında hayatım gerçekten çok ilginçti.
Risto Uuk: AB Yapay Zeka Yasası’nın uygulanmasının son birkaç ayda nasıl değiştiğiyle çok ilgileniyorum. 2 Ağustos önemli bir dönüm noktasıydı. Son zamanlarda neler oldu ve nasıl değişti, bize anlatabilir misiniz?
Lucilla Sioli: 2 Ağustos tarihinden önce başlamanız gerekiyor, çünkü garip gelebilir ama kurallar bir yıl önce uygulanmaya başladı. Komisyonun uygulama yetkileri bir yıl sonra başladı. Bunun nedeni, kurallar uygulandığında bir dizi paydaşla birlikte oluşturduğumuz bir uygulama kodumuzun olması ve bu kodun paydaşlara uygulama koduna uyum sağlamaları için zaman tanımasıydı. Uygulama kodu, esasen Yapay Zeka Yasası’na uyum sağlamak için önlemlerin uygulanmasının pratik bir yoludur. O yıl boyunca şirketler uygulama koduna uymaya çalışıyorlardı ve piyasaya yeni modeller çıktıkça onlarla diyalog kurma fırsatımız oldu. 2 Ağustos 2026 geldiğinde ve uygulama başladığında, zaten büyük yapay zeka sağlayıcılarıyla, ya da en azından çoğuyla diyalog halindeydik. Yasayı uygulamak için ihtiyaç duyduğumuz bilgileri talep etmek üzere, uygulama yaparken ilk adım olan bilgi taleplerini dünyanın dört bir yanındaki bir dizi şirkete göndermeye hazırdık. Aynı zamanda, bir dizi olay meydana geldiği için diyaloğumuzu sürdürdük. Olaylara karışan başlıca şirketler ve paydaşlarla diyaloğumuzu sürdürme imkanımız oldu.
Risto Uuk: 2 Ağustos’tan itibaren verilen uygulama yetkileri tam olarak ne anlama geliyor? Neler değişti? Ne tür yetkiler elde ettiniz?
Lucilla Sioli: Şirketlerden, uygulama kurallarındaki önlemlere uymak veya Yapay Zeka Yasası’na farklı bir şekilde uymak için attıkları belirli adımlar hakkında bilgi isteyebiliriz. Uygulama kurallarına uymak zorunda değiller. Yapay Zeka Yasası’na farklı şekillerde uyabilirler ve bunu kanıtlamak zorundalar. Sahip olduğumuz bilgiler, Avrupa pazarına sundukları modeller hakkında normalde yayınladıkları veya bizimle paylaştıkları raporlardan geliyor. Yeterli bilgiye sahip olmadığımızı ve daha fazlasına ihtiyacımız olduğunu düşünürsek, bilgi talebi yoluyla sorular sorabiliriz. Onlar cevap verir ve biz de bu şekilde devam ederiz. Elbette, aldığımız cevaplardan memnun kalmazsak, konuyu daha üst mercilere taşıyabiliriz. Karar yoluyla bilgi talebi yayınlayabilir, şirketlerden belirli önlemleri uygulamalarını isteyebilir ve hatta onları cezalandırmaya kadar gidebiliriz. Onları cezalandırmakla ilgilenmiyoruz. Avrupa vatandaşlarının güvenli modellerle işlem yapmasını sağlamak için önlemler aldıklarından emin olmakla ilgileniyoruz. Ceza, elbette sahip olmamız gereken bir tehdittir. Bir yükümlülüğünüz olduğunda, bir ceza da olmalıdır, diyelim. Bu tehdidin var olması gerekiyor. Ama dürüst olmak gerekirse, bizi ilgilendiren şey, bu modeli Avrupa Birliği’nde güvenli bir şekilde kullanmamıza olanak sağlayacak şekilde önlemleri uygulamalarıdır.
Risto Uuk: Şirketlerin uygulamalarında belirli değişiklikler yapmaya istekli olmadıkları takdirde Avrupa pazarına erişimlerinin bile olmayabileceği ihtimali hakkında ne düşünüyorsunuz?
Lucilla Sioli: Bir yapay zeka ofisi olarak, modele erişime ihtiyacımız olursa bu talebi iletebiliriz. Ancak, modeli Avrupa pazarına sunmamaya karar verirlerse, yapabileceğimiz bir şey yok çünkü ancak model Avrupa pazarına sunulduğunda veya sunulması planlandığında müdahale edebiliriz. Kurallar, Avrupa pazarında faaliyet gösteren şirketler için geçerlidir.
Risto Uuk: Sanırım 55. Madde’de, sistemik riskler ve genel amaçlı yapay zeka modelleriyle ilgili olarak, modelin yaşam döngüsü boyunca sistemik risklerin değerlendirilmesi ve azaltılması gerekliliğinin de bulunduğunu anlıyorum. Bu da, bir şirketin en azından nihayetinde bir ürünü piyasaya sürme hedefi varsa, Yapay Zeka Yasası’na nasıl uyum sağlayacağını düşünmeye oldukça erken başlaması gerektiği anlamına geliyor. Bu konuda ne düşünüyorsunuz?
Lucilla Sioli: Evet, doğru, ancak geliştirdikleri modelin sistemik risk içeren genel amaçlı bir model olacağının farkına vardıklarında da bizi bilgilendirmeleri gerekiyor. Bu, örneğin, modeli Avrupa pazarına sunacaklarının bir kanıtıdır. Söyledikleriniz tamamen doğru. Tüm yaşam döngüsünü kontrol etme imkanımız var ve modeli yaşam döngüsü boyunca geliştirme biçimleri güvenli olmalı. Ancak sonuçta, biz sadece Avrupa pazarına sunulacak modeller için yetkiliyiz.
Risto Uuk: Yapılandırılmış diyaloglar içinde olduğunuzu ve şimdi de bilgi talepleri olduğunu söylediniz. Şirketler neler paylaşıyor? Uygulamalarını geliştiriyorlar mı? Yapay Zeka Yasası’na zaten uyuyorlar mı, herhangi bir iyileştirmeye gerek yok mu? Elbette bu doğru değil çünkü olaylar yaşadık. İş birliği nasıl gidiyor?
Lucilla Sioli: Bence bir yılı aşkın süredir sürdürdüğümüz diyalog, şirketlerin uygulamalarını, özellikle de iç organizasyon biçimlerini geliştirdiklerini gösterdi. Ayrıca risk analizini çok ciddiye aldıklarını da gösterdi. Her zaman iyileştirme imkanı vardır. Bu olaylarda olduğu gibi, iç değerlendirmeler için testler yaptıklarında sanal ortamlar kullanıyorlar ve bu ortamların izlenmesi, kontrol edilmesi ve mümkün olduğunca en son teknolojiye uygun olması gerekiyor. Bunu da ciddiye aldıklarından emin olmak istiyoruz ve bu konuları onlarla görüşüyoruz.
Risto Uuk: Sanırım OpenAI ajanlarının bir Alman sitesini de hacklediğine dair bilgi buldum. Bazı gazetecilerin Avrupa Komisyonu’nun bu konuda bilgilendirildiğini yazdığını düşünüyorum, ancak bana göre Komisyon oldukça geç, belki de birkaç ay sonra bilgilendirildi. Bu konuda bir şey yapıldı mı?
Lucilla Sioli: Şunu açıkça belirtmek istiyorum. Hugging Face ile ilgili olaydan haberdar olduk. Ancak Alman vikisiyle ilgili olaydan haberdar olmadık.
Risto Uuk: Gelecekte benzer olayların yaşanmasını önlemek için neler yapılabilir?
Lucilla Sioli: Şirketlerin, olaylar yaşandığında bizi bilgilendirmek zorunda oldukları gerçeğini çok ciddiye almalarını istiyoruz. Bazı olaylar diğerlerinden daha ciddidir ve ayrıca bize özel bir rapor sunmaları gereken ciddi olaylar kategorisi de vardır. Sadece seçilen olaylar değil, tüm olaylar hakkında bilgilendirilmek istiyoruz. Bu çok önemli çünkü bu, modellerin zayıf noktalarının nerede olduğunu anlamamızı geliştiriyor.
Risto Uuk: Avrupa Komisyonu’nun birçok uzmanın katılımıyla geliştirdiği bu gönüllü araçtan, uygulama kodundan bahsettiniz. Ayrıca şirketlerin bunu kullanmak zorunda olmadığını, çünkü gönüllü bir araç olduğunu da belirttiniz. Peki şirketler bunu kullanıyor mu? Mevcut anlayış nedir? Alternatif yollara başvurmak yerine bunu kullanmayı mı tercih ediyorlar?
Lucilla Sioli: Çoğu şirket uygulama kurallarına uyuyor ve çoğu şirket de bu kurallara imza attı. Bazı şirketler alternatif yollar buluyor, ancak genel olarak, belirli modeller hakkında mevcut model raporlarına bakarsanız, uygulama kurallarının neredeyse bir standart görevi gördüğünü söylemeliyim. Bir standart değil – standartlaştırılmış değil – ancak çok pratik bir araç olduğu ortaya çıkıyor ve uygulanması gereken önlemleri çok iyi bir şekilde belirlemiş durumda. Uygulama kurallarının etkisinden çok memnunuz ve umarım uluslararası alanda da aynı etkiyi yaratır çünkü gerçekten buna değer.
Risto Uuk: Bunun teknik bir standart olmadığını, ancak bir standart rolü oynadığını söylediniz. Yapay Zeka Yasası’nın uygulanmasının oldukça iyi gitmesinin nedenlerinden biri de, tüm bu şeylerin zamanında yapılmış olması: uygulama kuralları, yönergeler ve tüm bu araçlar. Bu, uzun vadede kullanılacak araç mı olacak, yoksa sonunda bir standart veya benzeri bir şey geliştirme fikri var mı?
Lucilla Sioli: Bunu düşünüyoruz çünkü şu anda işler çok hızlı gelişiyor. Uluslararası iş birliğinin nasıl geliştiğini görmemiz gerekiyor ve ancak o zaman uygulama kılavuzundan bir standart oluşturmanın yararlı olup olmadığını görebiliriz. Şimdilik, “Uygulama kılavuzuyla deneme yapalım. Nasıl işlediğine bakalım.” diyerek başladık. Bence çok iyi işliyor. Şirketlerin gerçekten buna uyduğunu görüyorum ve bu da bizim anlayışımıza yardımcı oluyor. Şimdilik her şey yolunda. Uluslararası jeopolitik bağlamın bunu küresel bir standarda dönüştürmeye elverişli olup olmayacağını görelim.
Risto Uuk: Bu iyi ve çok mantıklı olurdu çünkü, tartışmasız bir şekilde, uygulama kuralları sahadaki güvenlik uygulamalarından geliştirildi. Bu uygulamalar bir araya getirilerek kurallar oluşturuldu, bu nedenle bunların genel olarak uygulanması çok mantıklı olurdu.
Lucilla Sioli: Bu uygulama kılavuzunun dünyanın diğer bölgelerindeki uygulayıcılar için de bir ilham kaynağı olacağını şimdiden görüyorum, çünkü orada da bu konularda yasal çerçeveler mevcut.
Risto Uuk: Doğru hatırlıyorsam, Yapay Zeka Ofisi’ne katılmak için başvuru süresi sona erdi. İnsanların Yapay Zeka Ofisi’ne katılmayı deneme şansı hala var mı?
Lucilla Sioli: Mümkün. Aslında önümüzdeki yıl yaklaşık 40 kişi daha işe alacağız. Bu yüzden özgeçmiş listemizi yenilemek için ilgi beyanı çağrısında bulunduk. İlgi karşısında çok şaşırdık.
Risto Uuk: Yapay Zeka Ofisi’ne katılmak için kaç kişi başvurdu?
Lucilla Sioli: 2.000’den fazla özgeçmiş aldık. Şimdi uygunluk kriterlerini ve benzeri hususları incelememiz gerekecek, bu da biraz zaman alacak. Ancak ilgi gerçekten çok büyük.
Risto Uuk: O 40 kişiyi işe aldığınızda, onları nasıl kullanmayı planlıyorsunuz? Nereye gidecekler? Belki yapay zeka ofisinin kurulumu hakkında da biraz bilgi paylaşabilirsiniz. Nasıl çalışıyor?
Lucilla Sioli: Bu 40 kişi, Yapay Zeka Yasası’nın uygulanmasından sorumlu birimlere atanacak. Orada iki birimimiz, yani iki ekibimiz var. Biri, Yapay Zeka Yasası’nın tamamının uygulanmasını koordine ediyor. Bu ekip, Yapay Zeka Yasası’nı hazırlayan meslektaşlarımızı da içeriyor ve aynı zamanda standartların, kılavuzların ve Yapay Zeka Yasası’nın uygulanmasıyla ilgili tüm yatay yönlerin geliştirilmesinden de sorumlular. Uygulama açısından, özellikle genel amaçlı yapay zeka sistemleri ve Avrupa Komisyonu’nun yetki alanına giren yasaklarla ilgili uygulamadan sorumludurlar. Bu kuralların çoğu -yüksek riskli uygulamalar ve yasaklar- çoğunlukla bu konularla ilgilenmek üzere piyasa gözetim otoriteleri kurmuş olan Üye Devletlerin yetki alanındadır. Ancak, sistem sağlayıcısıyla aynı sağlayıcı tarafından geliştirilen modellere dayalı genel amaçlı sistemlerle veya örneğin cihazlara gömülü sistemlerle uğraşırken, sorumluluk Yapay Zeka Ofisi’ndedir. Bu nedenle bu birim, örneğin sohbet robotları gibi sistemlerden sorumludur. Daha sonra, özellikle sistemik risk taşıyan genel amaçlı modellerden doğrudan sorumlu olan, güvenlik ekibi dediğimiz başka bir ekibimiz var. Bu ekip, paydaşlarla birlikte uygulama kurallarını ve ilgili yönergeleri geliştirdi. Gerektiğinde değerlendirmeler yapıyorlar ve modellerle ilgili yaptırımları uyguluyorlar.
Risto Uuk: Başka birimler de var.
Lucilla Sioli: Yapay Zeka Ofisi’nde dört birim daha var, ancak bunlar araştırma ve inovasyon üzerine çalışıyorlar. Fonlama programımızın araştırma ve inovasyon yönlerinden sorumlu bir birimimiz var. Örneğin, Yapay Zeka alanında Horizon Europe için çalışma programını tasarlıyorlar. Ayrıca robotikte ve üretimde kullanılan yapay zeka ile de ilgileniyorlar. Sağlık sektöründe yapay zeka ile ilgilenen başka bir ekip daha var ki bu çok önemli bir tema; muhtemelen yapay zeka tarafından dönüştürülecek en önemli sektör. Toplumsal fayda için yapay zeka ile ilgilenen bir ekibimiz var. Ukrayna’nın yeniden inşasında yapay zeka uygulaması veya aşırı iklim olaylarına hazırlıkta veya aşırı iklim olaylarının takibinde yardımcı olan yapay zeka gibi somut projeleri var. Son olarak, tüm yapay zeka politikasını koordine eden bir ekibimiz var.
Risto Uuk: Yapay Zeka Ofisine katılmak isteyenler için, şu ana
kadar 2.000 başvuru aldığınızı biliyorum, bu yeterli bir sayı, ancak daha fazla rekabetin olumlu olacağından eminim. Yapay Zeka Ofisine katılmak için öne çıkan teklif nedir?
Lucilla Sioli: Her şeyden önce, bu pozisyonlar Yapay Zeka Yasası’nın uygulanmasıyla ilgilenen birimlerde yer alıyor. Bugünün vurgusu, Yapay Zeka Yasası’nın, bugün gözlemlediğimiz riskleri öngören dünyadaki tek düzenleyici çerçeve olduğudur.
Risto Uuk: Kontrol kaybı, siber risk.
Lucilla Sioli: Kontrol kaybı, siber, nükleer ve biyolojik risklerimiz var – biyolojik risk çok önemli – ama aynı zamanda sosyo-teknik riskler veya zararlı manipülasyon dediğimiz riskler de var. Anthropic ajanlarının insanları belirli şeyler konusunda ikna etmeye çalıştığını gördük. Bunlar, giderek daha hızlı gelişen ve iyileşen bu çok güçlü modellerde açıkça ortaya çıkan veya zaten ortaya çıkmış olan çok önemli risklerdir. Bence Yapay Zeka Ofisi, bu riskleri gerçekten azaltabilmemizi sağlamak için benzersiz bir konumda. Bu açıdan Avrupa Birliği’nde kendimizi daha güvende hissetmek istiyorsak, Yapay Zeka Ofisi’nde çalışmak iyi bir fikir.
Risto Uuk: Özellikle ne tür insanları çekmek istiyorsunuz?
Lucilla Sioli: Kısa vadede, teknoloji uzmanı dediğimiz bir dizi kişiye ihtiyacımız var. Bunlar, örneğin yapay zekâ ile çalışabilen ve yapay zekâ değerlendirmeleri yapabilen kişilerdir. Ayrıca yapay zekâ geliştirebilen kişiler de var. Güvenlik amacıyla, ancak bir dizi başka politikayı uygulamak için de Komisyonda bu uzmanlığa gerçekten ihtiyacımız var. Tahmin edebileceğiniz gibi, devlet kurumlarında bu tür bir uzmanlığa sahip olmak zordur çünkü bu geçmişe sahip kişiler genellikle şirketlerde veya üniversitelerde çalışır ve akademik kariyer yaparlar. Bu bilgiyi bir devlet kurumuna çekebilmek önemlidir. Elbette, uygulama işlevimiz nedeniyle hukuk alanında da uzman kişileri arayacağız. Orada, teknoloji konusunda da özel deneyime sahip avukatlara öncelik veriyoruz.
Risto Uuk: Diyelim ki görevi satın aldım. Yapay Zeka Ofisi çalışmak için iyi bir yer mi? Bazı kişilerin maaşın bazıları için yeterince yüksek olmadığını veya sözleşmenin ömür boyu olmadığını eleştirdiğini duydum. İş-yaşam dengesi nasıl? Ofiste çalışmak nasıl bir şey?
Lucilla Sioli: Zorluğu kabul etmeliyim. Avrupa Komisyonu’ndayız, bu nedenle Avrupa Komisyonu’nun sunduğu sözleşmeleri sunabiliyoruz. Avrupa Komisyonu’nun normalde sunduklarından farklı bir şey sunamayız. Bunlara sözleşmeli temsilci rolleri diyoruz ve sözleşmeler altı yıla kadar sürebiliyor. Bu sözleşmelerde zaman içinde yenilemeler oluyor. Aynı zamanda, Avrupa Komisyonu bir dizi yarışma düzenliyor. Komisyonda çalışmak, insanlara bu yarışmalara katılma imkanı da veriyor ki bu, zaten kurum içinde çalışırken ve Komisyonun nasıl çalıştığını gördüğünüzde biraz daha kolay oluyor. Daha iyi koşullar ve daha iyi ücret sunabilmeyi dilerdim, ancak biz bir devlet kurumuyuz, bu nedenle bu tür sözleşmelerin bu yönleri sabittir.
Risto Uuk: Maaşların düşük olduğunu eleştirerek başladım, ama gerçekten o kadar düşük mü? Karşılaştırma yapabilir miyiz? Dinleyicilerimiz için kabaca bir fikir vermesi açısından, Yapay Zeka Ofisi’ndeki kişilerin ne kadar kazandığını paylaşabilir misiniz?
Lucilla Sioli: Bu, insanların sahip oldukları göreve bağlı, ancak teknoloji uzmanları veya avukatlar için ortalama maaşın ayda 4.000 € veya daha fazla olduğunu söyleyebilirim. İnsanlar buraya gençken ve kariyerlerinin başında geliyorlar, bu yüzden bence onlar için cazip bir maaş. Brüksel aynı zamanda yaşamak için çok ilginç bir şehir. Brüksel’de konut fiyatları özellikle yüksek değil, ancak yaşam maliyeti elbette daha yüksek. Yine de, çok uluslararası ve çok sayıda genç insan olduğu için çok heyecan verici bir yer olduğunu düşünüyorum.
Risto Uuk: Belki biraz da Yapay Zeka Ofisi’ndeki kültürden bahsedebilirsiniz. Orada çalışmak nasıl bir şey? Elbette, çalışma saatleri uzun olabiliyor ve yapılacak çok şey var. Peki iş-yaşam dengesi nasıl? İnsanlar nasıl geçiniyor ve genel olarak Yapay Zeka Ofisi’ndeki kültür nasıl?
Lucilla Sioli: Açık planlı bir alanda çalışıyoruz, bu da insanların sık sık bir araya geldiği anlamına geliyor. Keşke daha fazla masamız olsaydı, ama yavaş yavaş daha fazla masa ediniyoruz, bu da her zaman olumlu bir şey. Mekânın kendisi -bina- çok modern ve insanların buraya gelmekten çok mutlu oldukları izlenimine sahibim. Komisyonda, haftada en az iki gün gelme kuralımız var. Bazı günler evden çalışma esnekliği de mevcut. Dikkatimi çeken şey, çok sayıda genç insan olduğu için, boş zamanlarında da bir araya gelmeleri. Çok hoş bir atmosfer.
Risto Uuk: Yapılacak işin miktarı ve işe aldığınız kişi sayısı göz önüne alındığında, bu yeterli mi? Yapay Zeka Ofisi’nin genel olarak kaç kaynağa ihtiyacı olduğuna dair vizyonunuz nedir? Uzun vadeli vizyonunuz nedir?
Lucilla Sioli: Gerekli olduğunu düşündüğümüz çalışma saatlerine göre hesapladığımız rakamlara ulaşmaya çalışıyoruz. Dediğim gibi, 40 kişi daha alacağız. Yapay Zeka Omnibus’unda getirilen yasak nedeniyle 10 kişi daha talep ettik. Çıplaklık içeren görüntülerin oluşturulmasına ilişkin yeni bir yasak getirdik, bu nedenle bu yasak için 10 personel daha istedik. İşin daha fazla kaynak gerektirecek şekilde geliştiğini görürsek, bunları talep edeceğiz. Ama dediğim gibi, Avrupa Komisyonu’ndayız, bu nedenle belirli bir bütçemiz var ve tüm Komisyon için geçerli olan kurallara uymak zorundayız. Maaşlar, çalışma saatleri, tatil sayısı, sağlık hizmetleri – her şey Komisyon genelinde geçerli olan aynı kurallara tabidir. Bütç
eyi artırdığımızda, elbette izin istememiz gerekiyor çünkü bu Komisyon tarafından merkezi olarak tahsis edilen yeni bir bütçe.
Risto Uuk: Yapay Zeka Ofisi’nin toplamda yaklaşık 200 kişiden oluşmasını, bunların 100’ünün de uygulama alanında çalışmasını planladığını doğru anlıyor muyum? Genel vizyon nedir?
Lucilla Sioli: Bence 200’den fazla olacak. Şu anda oran 50-50, ancak uygulama oranı yarıdan fazla olabilir.
Risto Uuk: İnsanların bazen AB Yapay Zeka Ofisi’ni, örneğin İngiltere Yapay Zeka Güvenlik Enstitüsü ile karşılaştırması hakkında ne düşünüyorsunuz? Avrupa Parlamentosu Üyesi Axel Voss’un medyada bu karşılaştırmayı yaptığını gördüm. Sanırım öncelikle İngiltere Yapay Zeka Güvenlik Enstitüsü’nün düzenleme veya uygulama üzerinde çalışmadığını, esasen gelişmiş modellere odaklanan bir araştırma kurumu olduğunu ve 200’den fazla çalışanı olabileceğini belirtmişti. Sonra da çok daha geniş bir yetki alanına sahip olan Yapay Zeka Ofisi’nden bahsediyoruz. Bu karşılaştırma hakkında ne düşünüyorsunuz ve bu konu nasıl ele alınmalı?
Lucilla Sioli: Bir yandan, belirli değerlendirmeleri yapacak daha fazla insana ihtiyaç duyulduğunu söylemekte muhtemelen haklı. Öte yandan, biraz farklı bir amacımız var. İngiltere Yapay Zeka Güvenlik Enstitüsü, çoğunlukla bunu talep eden şirketler adına değerlendirmeler yapıyor. Bazen çok karmaşık değerlendirmeler yapıyor, neredeyse bir araştırma modunda, ne demek istediğimi anlıyorsanız. Sonuçlarının çoğunu yayınlıyor. Biz farklı bir sistemde çalışıyoruz. Şirketler, modellerinin oluşturduğu riskler, uyguladıkları azaltma önlemleri ve üçüncü tarafların bu azaltma önlemlerini gerçekten kontrol edip etmediği konusunda bize bilgi vermekle yükümlüdür. İngiltere Yapay Zeka Güvenlik Enstitüsü tarafından kontrol edilmişse, bunu çok faydalı buluyoruz çünkü çok şeffaf, çok iyi çalışıyor ve dünyada bu değerlendirmeleri yapabilecek çok az kuruluş var. Başka yerlerden değerlendirme alamadığımızda biz değerlendirme yapıyoruz. Uygulama kodumuzda, şirketlerin uyguladıkları azaltma önlemlerini kontrol etmek için üçüncü taraf değerlendiricilere gitmelerini gerçekten istediğimiz bir hüküm var. Bu değerlendirmeleri aldıktan ve bunları güvenilir bulduktan sonra sorun yok. Bu açıdan bakıldığında, İngiltere Yapay Zeka Güvenlik Enstitüsü’nden farklı bir amacımız var.
Risto Uuk: Yapay Zeka Ofisi’ni ve Yapay Zeka Yasası’nı takip eden ve bu sürecin iyi gitmesinden endişe duyan paydaşlar ne yapabilir? Herkes Avrupa Birliği’nin güvenli olmasını ve dolayısıyla hayatımızı gerçekte
n iyileştiren ürünlere sahip olmasını istiyor; endüstri, akademi, sivil toplum, herkes. Bunu dinleyen paydaşlar ne yapabilir? Bazıları, daha önce de konuştuğumuz gibi, Yapay Zeka Ofisi’ne katılabilir. Ama Yapay Zeka Ofisi’ne katılmayanlar ne yapabilir?
Lucilla Sioli: Öncelikle, bize danışmanlık yapan, bizim “kurullar” olarak adlandırdığımız bazı gruplarla çalışıyoruz. Örneğin, tüm Avrupa ülkelerinden ve dünyanın geri kalanından gelen 60 akademisyenden oluşan bir bilimsel panelimiz var. Onların tavsiyelerine çok güveniyoruz ve önemli riskler olduğunu düşünürlerse bizi belirli eylemlerde bulunmaya bile zorlayabilirler. Ayrıca, bize tavsiyelerde bulunabilecek ve belirli konularda görüş alışverişinde bulunabilecek diğer akademisyenlerden, endüstri ve sivil toplum kuruluşlarından oluşan bir danışma kurulumuz var. Yapay Zeka Kurulu adını verdiğimiz başka bir grupta Üye Devletlerle görüşüyoruz. Yılda yaklaşık dört kez toplanıp Yapay Zeka Yasası’nın uygulanmasını çok önemli bir şekilde tartışıyoruz. Ayrıca, ortalama olarak her ay bir kez Avrupa Parlamentosu ile görüşüyoruz. Diğer birçok paydaş da katılabiliyor, çünkü örneğin güvenlik eksikliği içeren bir durum yaşadıklarını bildirmek isteyen vatandaşlardan çok sayıda mektup ve e-posta alıyoruz. Şirketlerle ve ihbarcılarla farklı iletişim kanallarımız var. Değerlendirme, güvenlik ve benzeri konularla ilgilenen herkes için, daha fazla insanın güvenlik değerlendirmesine odaklanması çok faydalı olacaktır. Daha önce İngiltere Yapay Zeka Güvenlik Enstitüsü hakkında söylediğim gibi, Avrupa Birliği’nde bu tür faaliyetlere daha çok ihtiyacımız var. Şu anda bu tür konuları inceleyen veya araştırma laboratuvarlarında ya da üniversitelerde çalışanlar için, bu alanda uzmanlaşmış daha fazla insan olması bizim için çok faydalı olacaktır.
Risto Uuk: Değerlendirme yapmayan akademisyenler, araştırma yapıyorlarsa veya savunuculuk yapan sivil toplum kuruluşları katkıda bulunabilir mi?
Lucilla Sioli: Söylediğim gibi, bilimsel panel ve danışma kurulu gibi, her ikisinde de büyük ölçüde temsil edilen panelleri zaten oluşturduk. Elbette, çok sayıda kamuoyu istişaresi de yapıyoruz. Her ne zaman bir kılavuz veya kamuya açık bir belge geliştirsek, herkesin katılımını sağlamak için bir kamuoyu istişaresi düzenliyoruz. Her durumda, bizimle görüşmek isteyen herkes için her zaman ulaşılabilir durumdayız. Akademiden, endüstriden ve sivil toplum kuruluşlarından temsilciler alıyoruz, bu nedenle birçok iletişim kanalımız olduğunu düşünüyorum.
Risto Uuk: Harika bir kapanış oldu. Sohbet için çok teşekkürler.
Lucilla Sioli: Teşekkür ederim.