YZR Editör notu: Meta Inc. veya eski ismiyle Facebook Inc., Menlo Park, Kaliforniya merkezli bir Amerikan sosyal medya ve medya holdingidir. CEO’su Mark Zuckerberg‘dir. Microsoft, Amazon, Apple ve Google ile birlikte en büyük beş teknoloji şirketinden biri olarak kabul edilir.
Aşağıda özetini sunduğumuz makale, Meta İnternet sitesinde 10 Ağustos 2026 tarihinde yayınlanmış Meta’nın bir anlamda yapay zeka’ya bakış açısını ve felsefesini gündeme getiren yazısının özet tercümesidir. Yapay zeka’ya, insanlık, çalışanlar, çevre, demokrasi gibi bakış açılarından yola çıkarak değişik düşünce yapılarından örnekler verdiğimiz Blog Sitemizde, doğrudan Yapay Zeka’nın önde gelen ABD şirketlerinden META şirket devinin yapay zekanın geleceğine ve içeriğine yönelik görüşlerine yer vermek bize ilginç geldi. Okuyucularımızın da dikkatini çekeceğini düşünüyoruz. Elimize ulaşabilirse bu konudaki yorumlara yer vermek istiyoruz, gelecek sayıda.
10 Ağustos 2026
Olumlu Bir Yapay Zeka Geleceğine Giden Yol
Tarihin inanılmaz bir anında yaşadığımız için şanslıyız . Önümüzdeki birkaç yıl içinde insanlar, insan kapasitesinin ötesindeki süper zekayı kullanarak olağanüstü yeni şeyler yaratıp keşfedebilecek, yeni işletmeler kurabilecek, yeni fikirler ifade edebilecek, yeni kavramlar öğrenebilecek ve sağlığımızı ve yaşam kalitemizi geliştirebilecekler . Bu ana yaklaştıkça, süper zekayı hayatlarımızı, işlerimizi, topluluklarımızı, özgürlüğümüzü ve güvenliğimizi iyileştirecek şekilde en iyi nasıl kullanabileceğimize dair bir felsefe geliştirmek önemlidir .
Çağımızın belirleyici soruları, süper zekaya kimin erişebileceği ve onu neye yönlendireceğimizdir . Merkezileştirilmiş ve birkaç kurumla sınırlı mı kalacak, yoksa herkesi güçlendiren bir araç mı olacak ?
Biz, refahın kaynağı olarak bireysel güçlendirmeyi, üstün zekanın temel amacı olarak icadı ve güvenliğin temeli olarak güç dengesini esas alan bir felsefe öneriyoruz .
Tüm yeni teknolojiler fırsatlar ve zorluklar yaratır . Süper zeka tarihin en önemli teknolojilerinden biri olacak, bu nedenle sunduğu fırsatlar ve zorluklar, hayatımızda gördüklerimizden çok daha büyük olacaktır . Bunu çok ciddiye almalıyız .
Yine de, yapay zeka geliştiren birçok kişinin söylemlerinin bu kadar felaket tellallığıyla dolu olması şaşırtıcı . Yapay zekanın çoğu işi ve insanlığın önemini büyük ölçüde ortadan kaldıracağına inanan birinin neden böyle bir geleceği inşa etmek için acele ettiğini anlamıyorum . Yapay zekanın o kadar tehlikeli olduğu ve tek güvenli yolun aşırı bir güç yoğunlaşması olduğu fikri, doğası gereği sorunlu görünüyor . Tarihsel olarak, yeterince aydınlanmışsa mutlak bir gücün insanlığa iyiliksever bir şekilde yardım edeceğine dair umut, güvenli veya olumlu sonuçlara yol açmamıştır .
İnsanlık birçok dönüştürücü ilerlemeye tanık oldu . Her seferinde insanların geride kalacağı korkusu vardı . Ancak her seferinde insanlık daha fazla insanın daha büyük refah, sağlık ve özgürlüğü paylaşmasıyla ortaya çıktı . Yapay zekâda da bunun böyle olacağına ve geleceğin bolluğunun herkes tarafından paylaşılabileceğine inanıyoruz . Ayrıca, bizi bu noktaya getiren değerlerin -özgürlük, açık sorgulama, serbest girişim ve eşit fırsat gibi, olumlu bir gelecek inşa etmek için de doğru değerler olduğuna inanıyoruz .
İnsanların kendi özlemlerini gerçekleştirmeleri için gücü ellerine vermek, insanlığın en büyük ilerlemeyi kaydettiği yoldur. Yeni fikirler ve büyük adımlar nadiren yalnızca yerleşik kurumlardan kaynaklanır . Bunlar, insanların uçabileceğine inanan bisikletçi kardeşlerden, elektrik üretmenin yolunu bulan okulsuz kitap ciltçisi çırağından ve kişisel bilgisayarların herkes için olabileceğini düşünen garajdaki çocuktan geldi . Bunun böyle devam edeceğine inanıyoruz . Herkes daha güçlü araçlara sahip oldukça, her birey geleceği şekillendirme konusunda daha yetenekli hale gelecek, daha az değil .
Süper zekanın en büyük katkısı otomasyon değil, icat olacaktır . İlk yapay zeka soruları yanıtlayabiliyor ve rutin işleri yapabiliyordu . Yakında, bir aile üyesinin hastalığını tedavi edecek yeni ilaçlar keşfetmekten, işletmenizi geliştirmenin yeni yollarını bulmaya kadar, yeni bilgiler keşfetmeye giderek daha fazla yardımcı olacaktır . Bir kişinin bir günde sorabileceği soru sayısı sınırlı olsa da, süper zekanın hedeflerinize ulaşmanıza yardımcı olmak için icat edebileceği değerli şeylerin sayısı sınırsızdır .
Zekanın bollaşmasıyla birlikte en önemli soru, onu nasıl yönlendireceğimiz olacaktır . Bazıları, süper zekanın kendisinin veya onu kontrol eden küçük bir uzman grubunun insanlık için en iyisinin ne olduğuna karar vermesi gerektiğini savunuyor . Biz buna katılmıyoruz . Demokrasi ve ekonomi tarihi, insanların en iyi yaşamı nasıl tanımladığına dair tek bir objektif cevabın olmadığını göstermiştir ; bu nedenle en iyi yaklaşım, insanların kendi yaşamlarında neyin önemli olduğuna karar vermelerine izin vermektir .
Süper zekayı herkese ulaştırmanın bu sorunun cevabını verebileceğine inanıyoruz . Bu, süper bilgisayarların ve internetin gücünü herkesin cebine ve masasına yerleştirme geleneğini takip ediyor . Süper zekayı merkezileştirmek yerine, onu geniş çapta dağıtmalı ve her bireye onu yönlendirme yeteneği vermeliyiz . Bu, bireylerin bu güçlü yeni yeteneği kullanarak tam potansiyellerine ulaşabilecekleri, ilgi alanlarının peşinden gidebilecekleri ve yaşamlarını ve dünyayı her zamankinden daha fazla iyileştirebilecekleri yeni bir kişisel güçlendirme çağı başlatma potansiyeline sahiptir .
Bunu daha somut hale getirmek için, Meta’nın hepimizin hayatını iyileştirmek amacıyla kişisel süper zekayı geliştirmek için kullandığı birkaç özel yöntem şunlardır :
- Herkes, sizi,hedeflerinizi ve önemsediğiniz her şeyi anlayan, son derece yetenekli bir kişisel temsilciye sahip olacak . Temsilciniz, ilişkilerinizi, sağlığınızı, kariyerinizi, mali durumunuzu, ev yönetiminizi, hobilerinizi ve daha fazlasını iyileştirmek için 7/24 sizin adınıza çalışacak . Bu, keyif aldığınız şeylere zaman ayırmanıza ve aksi takdirde başaramayacağınızdan daha fazlasını başarmanıza yardımcı olacaktır . Güçlü gizlilik ve güvenlik seçeneklerine sahip olacak, böylece kişisel içeriğinizin tamamını güvenle işleyebileceğinden emin olabilirsiniz ; tıpkı WhatsApp’taki şifreleme gibi, başka hiç kimsenin bilgilerinize erişemeyeceğini bilirsiniz . Temsilcinizle gözlükleriniz de dahil olmak üzere herhangi bir cihaz üzerinden etkileşim kurabileceksiniz, böylece önemsediğiniz kişilerle anın tadını çıkarabilirsiniz .
Örneğin, menajerim ilginç bilgileri işaretliyor ve fikirlerimin prototiplerini oluşturmama yardımcı oluyor . Uyku düzenimi takip ederek ve antrenman yaparken beni izleyerek ve geri bildirim vererek sağlığımı korumama yardımcı oluyor . Kızım fırıncılığı çok seviyor, bu yüzden menajerim her hafta sonu birlikte yapabileceğimiz kişiselleştirilmiş tarifler planlıyor, malzemeleri sipariş ediyor ve pişirme sırasında önerilerde bulunuyor .
- Herkes fikirlerini ifade etmek için inanılmaz yaratım araçlarına sahip olacak . 8 yaşındaki kızım fikirlerini kodlayabiliyor ve daha önce aylar sürecek veya imkansız olacak videoları bir akşamda üretebiliyor . Şimdi birlikte bir robot tasarlıyoruz . Bu arada, Meta’daki araştırmacılar artırılmış gerçeklik gözlükleri için ideal olan yeni kristal yapılar üretiyor ve mühendisler yeni uygulamaları daha önce olduğundan çok daha kısa sürede geliştiriyor . Yakında herkes icat süper güçlerine sahip olacak .
- Herkes yeni işletmeler kurmak için güçlü araçlara sahip olacak ve ekonomi daha girişimci bir hale gelecek . İnsanlar para toplamak veya büyük ekipler kurmak zorunda kalmadan fikirlerini kendileri hayata geçirebilecekler . Daha önce denemesi çok zor veya pahalı olan birçok fikir artık mümkün olacak . Bu, çok daha fazla fikir ve işletme göreceğimiz anlamına geliyor . Bunun sadece çok daha büyük bir ekonomik büyümeye değil, aynı zamanda zaman içinde daha az değil, daha fazla istihdama yol açacağını tahmin ediyorum .
- Herkesin, her konuda doktora derecesine sahip ve sınırsız sabrı olan,istediği her şeyi öğrenmesine yardımcı olacak kişiselleştirilmiş bir özel öğretmeni ve koçu olacak . Öğrenciler, şu anda yalnızca ebeveynleri ödeme yapabilenlere sunulan, ihtiyaç duydukları alanlarda ek yardım alacaklar . Yetişkinler ise, yeni iş becerileri, yeni diller, yeni hobiler veya ilgilendiği herhangi bir şeyi nasıl öğreteceğini tam olarak bilen süper zeki bir öğrenme asistanına sahip olacaklar .
- Herkes bilimsel ilerlemelerden faydalanacak ve bilimsel gelişmeye katkıda bulunabilecektir . Örneğin,Biohub, bilim insanlarının yeni keşifler yapmasına ve yeni ilaçlar tasarlamasına yardımcı olan sanal hücreler ve proteinlerle ilgili açık kaynaklı biyolojik modelleri zaten kullanıma sunmuştur. Priscilla ve ben bu çalışmaya başladığımızda amacımız, bilim insanlarının bu yüzyılda tüm hastalıkları tedavi etmesine veya önlemesine yardımcı olmaktı ve şimdi yapay zekadaki gelişmelerle bunun çok daha kısa sürede mümkün olacağını düşünüyoruz
Çok çeşitli sağlık sorunları olduğu ve herkesin biyolojisi farklı olduğu için, insanların doğrudan katılımı, kişiselleştirilmiş tedavilerin önünü açmaya, denemeleri buluş hızına ayak uyduracak şekilde hızlandırmaya ve endüstrinin orantısız bir şekilde yaygın hastalıklara odaklanmasının ötesine geçmesine yardımcı olacaktır .
Biyolojinin ötesinde, yapay zeka, bilimsel yöntemi uygulayarak ve hipotezleri test etmek ve iyileştirmek için haftalarca veya aylarca çalışarak, insanların her alanda araştırmalarını ilerletmelerine yardımcı olacaktır . Bilimsel keşif, toplum için muhtemelen en değerli icat biçimlerinden biri olacaktır .
- Herkes bu araçlara ücretsiz veya uygun fiyatlı erişime sahip olacak . Herkesin geleceğin bir parçası olabilmesi için, herkesin süper zekayı kullanarak hayatlarını iyileştirme ve dünyayı şekillendirme yeteneğine sahip olması gerekir . Milyarlarca insanın erişebileceği ücretsiz sürümler sunacağız . Daha fazla işlem gücü kullanmak için ödeme yapmak isteyenler için, herkesin kullandığı zeka ve işlem gücü için mümkün olan en düşük fiyatı almasını garanti eden ve aynı zamanda kapasitenin insanların topluca en değerli bulduğu şey için kullanılmasını sağlayan dinamik bir açık artırma mekanizması olacaktır . Bu, süper zekanın faydalarının geniş çapta dağıtılmasını sağlayacaktır .
Bunlar, Meta’nın odaklandığı başlıca alanlardan bazılarıdır . Her alan, kişisel güçlenmenin değerlerini ilerletir ve herkesin dünyayı şekillendirmede bugünden daha büyük bir role sahip olduğu bir geleceğe katkıda bulunur . Bu çabalar başarılı olursa, gelecek bol miktarda kişisel özgürlük, fikirlerin ifade edilmesi, ilişkilerin derinleşmesi, ekonomik ve finansal refah, daha iyi sağlık ve bugün hayal bile edemeyeceğimiz icatlar getirecektir . Ama en önemlisi, gelecek hepimiz tarafından yaratılacak ve hepimizin değerlerinin ve bakış açılarının bir yansıması olacaktır .
Aynı zamanda, yeni teknolojiler yeni riskleri de beraberinde getiriyor . Ele almaya odaklandığımız birçok önemli konu var ; iş kayıpları ve yerel toplulukların veri merkezi inşaatlarından faydalanmasının sağlanmasından, siber güvenlik ve biyolojik riskle ilgili yapay zeka kötüye kullanımına ilişkin güvenlik endişelerine, hükümet baskısından ve gözetiminden kaçınmaya, ABD ve demokratik ülkelerinöncülük etmesini sağlamaya ve nihayetinde insanlığın süper zekâ üzerindeki kontrolünü koruyarak, onu tehlikeye atmak yerine bize hizmet etmesini sağlamaya kadar .
Genel kanı, bu endişelerin teknolojiyle ilgili olduğu ve yeterince zaman ayırırsak teknolojiyi mükemmelleştirip veya uyumlu hale getirerek tek bir iyiliksever süper zekâ üretebileceğimiz yönündedir . Bence bu uyum görüşü temelden hatalıdır .
İnsanlık tek tip bir kültür değildir . İnsanların farklı değerleri, önemli konularda yapacakları farklı uzlaşmaları temsil eder . Herkesin karşıt çıkarları ve değerleriyle aynı anda uyum sağlayabilecek teknolojik bir çözüm yoktur . Herhangi bir tekil süper zekâ, bazı değerlere diğerlerinden daha fazla öncelik vermek zorunda kalacak ve bu süreçte herkese karşı iyiliksever olamayacaktır .
Bunun yerine, Batı toplumunun demokratik yönetim kurumlarında olduğu gibi, bu endişelerin her birini doğru güç dengesini sağlama perspektifinden ele almanın daha verimli olacağını öneriyoruz. Çatışan çıkarları olan insanlar ve kurumlar, olumlu sonuçlara ulaşmak için doğal olarak birbirlerini denetler ve dengeler . Olumlu bir yapay zeka geleceği inşa etmenin en iyi ve en gerçekçi yolu, süper zekayı herkese sunmaktır .
Bir düşünce deneyi olarak, sadece bir kişinin süper zeki bir avukatı olduğunu hayal edin . Bu kişi, esasen haksız olsa bile, mahkemede adaletsiz bir avantaja sahip olurdu . Bu da daha kötü bir topluma yol açardı . Ama şimdi herkesin süper zeki bir avukatı olduğunu hayal edin . Bu durumda, adalet, günümüzde davalarda beceri ve kaynaklarda sıklıkla dengesizlik olduğu düşünüldüğünde, çok daha adil ve verimli bir şekilde yerine getirilirdi .
Benzer şekilde, tek bir kişi siber güvenlik alanında üstün zekaya sahip olsaydı, neredeyse her teknik sisteme sızabilirdi ve dünya bugüne kıyasla çok daha az güvenli olurdu . Ancak herkes siber güvenlik alanında üstün zekaya erişebilirse, yaygın olarak kullanılan bu üstün zeka her sistemi güçlendirip güncelleyeceği için tüm teknik sistemlerimiz bugüne kıyasla daha güvenli hale gelirdi .
Eğer sadece bir işletme süper zekaya sahip olsaydı, o işletme diğer tüm işletmeleri geride bırakır ve bugünküne kıyasla daha az dinamik ve daha az yaygın bir refah piyasasına yol açardı . Ancak herkes süper zekaya erişebilirse, herkes bugün mümkün olanın ötesinde yeni şeyler yaratmak için gerekli araçlara sahip olur ve ekonomi daha dinamik hale gelir ve daha geniş tabanlı bir refah üretir .
İnsanlar güçlendirildiğinde, doğal olarak ekonomik, sosyal, politik ve insan etkileşiminin diğer tüm alanlarında birbirleriyle rekabet eder ve birbirlerini denetlerler . İnsanlar ayrıca işletmeler ve hükümetler de dahil olmak üzere kurumların gücünü denetler ve dengelerler .
Ancak süper zekânın gücü az sayıda birey, işletme, hükümet veya yapay zekânın kendisi tarafından kontrol ediliyorsa, bu doğal olarak diğer herkes için daha az elverişli sonuçlara yol açacaktır . Bu teknolojik bir ilke değil, güç dengesiyle ilgilidir . Tek başına iyiliksever bir süper zekâ diye bir şey yoktur .
Dolayısıyla, herkes için olumlu bir geleceğin anahtarı, bireyleri destekleyen bir güç dengesi sağlamaktır . Çözüm, üstün zekanın geniş çapta dağıtılmasını ve insanları güçlendirmesini sağlamaktır .
Meta, öncelikle herkes için kişisel süper zekâ geliştirmeye odaklanmış bir şirkettir . Diğer laboratuvarların çoğu şirketler, hükümetler veya diğer kurumlar için yapay zekâ geliştirmeye odaklanmıştır ; bu nedenle, eğer bu laboratuvarlar önde giderse, güç dengesi bireylerden ziyade büyük kurumlar lehine olacaktır . Meta’nın kuruluşundan bu yana misyonu, gücü insanların eline vermek olmuştur . İnançlarımız ve ilkelerimiz önde giderse, güç dengesi bireyler ve herkes için daha iyi bir gelecek lehine olacaktır .
Yukarıda bahsedilen risklerin her birini daha ayrıntılı olarak ele alalım :
İş Büyümesi ve Ekonomi
İnsanların yeni deneyimlere olan talebi sonsuzdur ve her zaman ele alınacak yeni sorunlar bulmuşlardır . Ekonomide, otomasyon yoluyla insanların ihtiyaçlarını daha verimli bir şekilde karşılamaya çalışan şirketler ile daha gelişmiş ihtiyaçları karşılamak için yeni beceriler kazanan bireyler arasında doğal bir denge vardır . Sağlıklı bir denge olduğunda, genel verimlilik ve inovasyon artarken istihdam seviyeleri yüksek kalır .
İnsanlar, otomasyonun bireylerin yetenek gelişimini geride bırakacağından ve bunun da iş kayıplarına ve insanların yeni işler öğrenme sürecinde zorlu bir döneme yol açacağından endişe ediyor . Ancak yapay zekanın otomasyonu, bireylerin yeteneklerini veya yeni becerilere olan talebi artırdığından daha hızlı artırması gerektiğine dair bir kural yok . Son istatistikler, bireylerin yetenek gelişiminin otomasyonla aynı hızda veya ondan daha hızlı olmasının daha olası olduğunu gösteriyor ; bu durumda insanlar mevcut işleri değişmeden önce birçok yeni şey ya pabilme yeteneği kazanacaklar . Bu da sağlıklı bir dengeye ve hatta potansiyel olarak iş büyümesine yol açacaktır .
Elde edeceğimiz sonuç, bir yanda otomasyon, diğer yanda bireysel güçlendirme ve icat arasındaki dengeye bağlıdır . Eğer bilgiye dayalı işleri otomatikleştirmeye odaklanan laboratuvarlar öne geçerse, insanların ve ekonominin çok daha zor bir geçiş süreci yaşayacağını düşünüyorum . Ancak herkes, yeteneklerini genişleten kişisel süper zekaya erişebilirse, bu dengeyi bireylerin güçlenmesi ve olumlu bir geleceğe doğru kaydırır .
Gelecekte bol miktarda iş imkanı olacağına dair iyimser olmamızı sağlayacak birçok neden var . Yapay zekâ ne kadar zeki olursa. olsun, her zaman sınırlı bir işlem gücü olacak ve bu nedenle onu nasıl kullandığımız konusunda bir fırsat maliyeti söz konusu olacaktır . İnsanlar yapay zekâyı inanılmaz derecede değerli yeni şeyler icat etmek için kullanabilirlerse, mevcut işleri otomatikleştirmek yerine bunu bu yönde tahsis etmek daha mantıklı olacaktır . Süper zekâ ne kadar çok icat aracı olarak kullanılırsa, bireysel yeteneğin otomasyonu geride bırakma olasılığı o kadar artar ve gelecek insanlar için daha iyi olur .
İnsanlar ayrıca hayatımızı daha iyi hale getirmek için sürekli olarak yeni fikirler üretiyor ve bu fikirleri hayata geçirmek için yeni işler ortaya çıkıyor . Bir nesil önce uygulama geliştiricileri, sosyal medya içerik üreticileri, elektrikli araç teknisyenleri ve veri merkezi operatörleri yoktu . Yakın gelecekte, bugün yaygın olmayan yeni işler olacak ; örneğin, özel oyuncaklar, mobilyalar veya kıyafetler tasarlayan tek kişilik ürün stüdyoları ; oyunlar, hikayeler ve maceralar yaratan dünya kurucuları ve deneyim tasarımcıları ; kişiselleştirilmiş tedaviler formüle etmek için süper zekayı kullanan kişisel biyologlar ve henüz hayal edemediğimiz daha birçok şey .
Bu, birçok açıdan tarihsel eğilimlerin bir devamıdır. Sanayi devriminden önce, insanların % 90’ı hayatta kalmak için yiyecek yetiştiren çiftçilerdi . Teknolojideki ilerlemeler, insanlığın büyük bir bölümünün geçimini sağlamaya daha az, seçtiğimiz uğraşlara ise daha çok odaklanmasını sağladı . Her adımda, insanlar yeni kazandıkları verimliliği kullanarak daha önce mümkün olandan daha fazlasını başardılar ve yaratıcılığa, kültüre, ilişkilere ve hayattan zevk almaya daha fazla zaman ayırdılar.
Elbette, tıpkı bilgisayarlar, internet ve diğer yeni teknolojilerde olduğu gibi, çalışma şeklimizin bazı yönleri değişecek . Bu, insanların uyum sağlaması gerektiği anlamına geliyor ve bu zorlu olacak . Ancak herkesin bize yeni beceriler öğretme ve değişime uyum sağlama konusunda süper zeki bir kişisel asistanı olması ne kadar fazla olursa, bu süreç o kadar sorunsuz olacaktır .
Şirket büyüklükleri küçülebilir – tıpkı sanayi devlerinden teknoloji şirketlerine geçişte olduğu gibi . Ancak bu, genel olarak daha az iş anlamına gelmez . Bu, her birinde daha az insan bulunan daha fazla sayıda şirket anlamına gelir . İnsanların bugün kurabileceğinden çok daha değerli şirketler ve hizmetler kurulabilir . Kişisel süper zekâ ajanlarına sahip az sayıda insanın önemli ölçekte şirketleri yönetebileceğini görmeye başlayacağımızı düşünüyorum . Gelecekte, küçük işletmeler ekonominin omurgasını oluşturmaya devam edecek, ancak her küçük işletme çok daha büyük bir etkiye sahip olabilecek .
Topluluklarla Yapay Zeka Altyapısı Oluşturma
Sürdürülebilir altyapı geliştirme, toplulukların her projeden önemli ölçüde fayda sağlaması anlamına gelir . Bu, yüksek ücretli yerel işler, okullara ve kamu hizmetlerine yatırım, enerji fiyatlarının yükselmemesini sağlama ve çevreye özen göstermeyi içerir . Vergi gelirleri arttıkça, bu durum öğretmenlere, kolluk kuvvetlerine, itfaiye teşkilatlarına ve daha fazlasına da fayda sağlar. Bu yerel faydaları topluluk sözleşmemiz olarak adlandırıyoruz ve doğrudan çalıştığımız her topluluğu desteklemek için ” Gelecek Herkes İçindir ” Fonu’nu başlatıyoruz .
Örneğin, Meta’nın büyük bir veri merkezi inşa ettiği Louisiana’daki Richland Parish’te, öğretmenler bu yıl yatırımımızdan elde edilen artan vergi geliri nedeniyle 50.000 dolarlık bir ikramiye aldılar . Okul müdürü bize, öğretmenlerin artık ülkenin dört bir yanından oraya taşındığını ve buranın ülkenin en iyi okul bölgelerinden biri olacağına inandığını söyledi .
Bilgiye dayalı iş gücünün yer değiştirmesiyle ilgili endişenin aksine, altyapı geliştirme talebini karşılayacak marangoz, elektrikçi ve inşaat işçisi gibi vasıflı işçilerde bir eksiklik var . Meta, veri merkezleri inşa ettiğimiz alanlarda vasıflı işçilere ücretsiz eğitim ve garantili yüksek maaşlı işler sağlamak için Amerika İşgücü Akademisi’ni kurdu .
Yatırım yaptığımız her yerde kendi enerji üretim altyapımızı kurarak elektrik fiyatlarının düşük kalmasına yardımcı oluyoruz . Bu sayede, yerel topluluklara gidebilecek enerjiyi tüketmemekle kalmıyor, bazı durumlarda düşük maliyetli enerji fazlasını da topluluklara geri sağlıyoruz . Bunun sürdürülebilirlik için önemli bir yatırım ilkesi olduğunu düşünüyoruz .
Veri merkezlerimiz aynı zamanda dünyanın en su tasarruflu merkezleri arasında yer alacak şekilde tasarlanmıştır . Su pozitif bir yaklaşım benimsemeye kararlıyız ; bu da faaliyet gösterdiğimiz havzalarda 2030 yılına kadar kullandığımızdan daha fazla suyu geri kazandıracağımız anlamına geliyor . Su kıtlığı yaşanan bölgelerde ise kullandığımız suyun % 200’ünü geri kazandırmayı hedefliyoruz .
Uzun vadeli yatırım yaptığımız toplulukların, spekülatörlerin topluluğa minimum yatırım yaparak inşaata başladığı topluluklara kıyasla kalkınmayı daha çok desteklediğini görüyoruz . Tarihsel olarak, demiryolları, otoyollar, elektrifikasyon ve geniş bant interneti getiren kasaba ve şehirler, nüfus ve ekonomik büyümenin de etkisiyle araştırma, iş ve sanayi merkezleri haline geldi . Yapay zeka altyapısının da, kalıcı varlıklar oluşturan ve gelecek neslin orada yaşamlarını kurup geliştirmeleri için nedenler yaratan güçlü Topluluk Anlaşmalarıyla inşa edilirse benzer bir rol oynayabileceğine inanıyoruz.
Kalkınmanın ulusal çıkarlar ve ulusal güvenlik yönleri de vardır . Amerika ve müttefikleri jeopolitik rakiplerine kıyasla yapay zekada öncülük ederse, Amerikan toplulukları daha fazla refah ve güvenliğe sahip olacaktır . Ancak ABD’nin Çin gibi ülkelere kıyasla önemli bir dezavantajı, burada altyapı inşa etmenin daha zor olmasıdır . Bu nedenle, ülke genelinde sürdürülebilir kalkınmayı mümkün kılacak Topluluk Anlaşmalarını birlikte belirleyerek hepimiz fayda sağlayabiliriz .
Siber güvenlik, biyoterörizm ve daha birçok alanda yapay zekanın kötüye kullanımına karşı önlem almak.
Özgür bir toplumda, insanlar iyilik veya kötülük için kullanılabilecek araçlara sahip olacaklardır, ancak kolluk kuvvetleri ve ordunun daha fazla silahı ve istihbarat toplama aracı vardır . Yapay zekâ ile, savunmacılar aynı modellerden önemli ölçüde daha fazla istihbarat üretmek için daha fazla işlem gücüne sahip olacaklar ve bazı durumlarda daha gelişmiş modellere de sahip olacaklardır .
Siber güvenlik, biyoterörizm ve diğer tehditlere karşı korunma stratejileri çeşitlilik gösterse de, genel eğilim, kötü niyetli aktörleri kontrol altında tutan savunucuların her zaman daha büyük bir güç ve kaynak dengesine sahip olmasını sağlamaktır .
Bazıları, riski azaltmanın en iyi yolunun bireylerin erişebileceği yetenekleri kısıtlamak olduğunu savunuyor . Ancak insanlara siber güvenlik yetenekleri kazandırmak, sistemlerin uzun vadeli güvenliğini sağlamanın da bir yoludur ve insanlara bilimsel yetenekler kazandırmak, uzun vadede zarar risklerini azaltacak şekilde bilimi ilerletmenin bir yoludur . Yetenekleri kısıtlamak bizi merkezileşme ve denge ve denetim eksikliği yoluna götürür, bu nedenle bu konuda son derece dikkatli olmalıyız – özellikle de diğer ülkeler daha az kısıtlayıcı yollar izliyorsa .
Siber güvenlik konusunda, yaygın olarak kullanılan açık kaynak sistemlerinin daha güvenli olduğu kanıtlanmıştır çünkü daha fazla insan güvenlik açıklarını tespit edebilir, sistemleri güçlendirebilir ve en son, en güvenli sürümlere kolayca yükseltebilir . Son haftalarda bile, HuggingFace gibi güvenlik olaylarıyla ilgilenen şirketlerin, güvenlik açıklarını gidermek için yaygın olarak bulunan açık modellere güvendiklerini gördük . Zamanla, güçlü siber güvenlik yeteneklerine sahip yaygın olarak kullanılan yapay zeka modellerinin, daha az değil, daha güvenli sistemlere yol açacağını düşünüyorum . Süper zeka, dünyanın kodlarının çoğunun doğrulanabilir şekilde güvenli olmasını sağladığında bu kesinlikle doğru olacaktır . Uzun vadeli çözüm, yetenekleri saklamak değil, süper zekanın geniş çapta dağıtıldığı bir güç dengesi kurmaktır .
Yakın vadede, kritik sistemler için güçlendirme sürecini hızlandırmak önemlidir . Öncü yapay zekâ geliştiren şirketlerin, hükümetin kritik altyapıyı güçlendirmesine yardımcı olmak için önemli teknik kaynaklar ayırmasını öneriyorum . Ayrıca, öncü yapay zekâ laboratuvarlarının, eğitim tamamlanana kadar beklemek yerine, yeni modellerin ara eğitim kontrol noktalarını hükümetin kullanımı ve incelemesi için paylaşmasını öneriyorum . Bu şekilde hükümet, en güçlü modellere ve güvenlik sorunlarını tespit edip gidermek için yetenekli mühendislerden oluşan bir orduya erken erişim sağlayacaktır . Laboratuvarlar ayrıca, sistemlerini kötüye kullanmaya çalışan kötü niyetli kişileri tespit etmeye yardımcı olmak için kolluk kuvvetleriyle de çalışmalıdır . Bu adımlar, model inovasyon hızını yavaşlatmadan veya bireylerin bu teknolojiye erişimini önemli ölçüde geciktirmeden güvenli dağıtımı hızlandıracaktır .
Biyolojik ve kimyasal risk konusunda endişe, bilim insanlarının yeni ilaçlar tasarlamasına olanak sağlayan aynı yeteneklerin, kötü niyetli kişilerin de zararlı bileşikler tasarlamasına olanak sağlayabileceği yönündedir . Bu durum, kanser ve diğer hastalıkların tedavisine yönelik bilimsel ilerlemenin önemli faydaları ile potansiyel yeni sorunların riski arasında bir denge kurma meselesi olarak ortaya çıkmaktadır ; ancak ideal olarak, riskleri azaltırken bilimi hızlandırmalıyız .
Bence bu riske daha fazla alçakgönüllülükle yaklaşmak önemli, çünkü bunun ne kadar olası veya olası olmadığına dair çok az tarihsel örnek var . Kötü niyetli kişilerin on yıllardır zararlı bileşikler sentezlemesi mümkün, ancak bu nadiren önemli bir sorun haline geldi – belki de siber saldırılar için var olan finansal motivasyon burada o kadar mevcut olmadığı için . Bununla birlikte, zararlı örneklerin ortaya çıkmaya başladığını görürsek, riski uygun şekilde azaltmak için stratejimizi ayarlamalıyız .
Laboratuvarlar, modellerimizdeki biyolojik ve kimyasal riskleri azaltmak için çalışmalarına devam etmelidir . Aynı zamanda, hükümetin politikalarını birçok alanda güncellemesi gerektiğine inanıyorum . İlk olarak, zararlı maddelerin fiziksel üretimini ve dağıtımını sınırlamaya odaklanmalıyız . Fiziksel bileşenleri düzenlemenin ve kontrol etmenin, bilginin yayılmasını kontrol etmekten daha kolay olacağını düşünüyorum, bu nedenle bu önemli bir politika odak noktasıdır . İkinci olarak, toplumun yeni tedaviler geliştirme ve ortaya çıkan yeni sorunlara karşı aşılama yeteneğini hızlandırmalıyız . Bu, FDA ve diğer düzenleyicilerin yeni tedavileri test etme ve onaylama süreçlerini basitleştirmeyi içerir . Yapay zeka ilaç keşif hızını artırdıkça, yenilik hızına ayak uydurmak için bu süreçleri güncellememiz gerekecektir .
Uzun vadede, yeni bilimsel keşiflerden kaynaklanan risklere verilecek yanıt, bilimsel ilerlemeyi yavaşlatmak değil, hızlandırmak olacaktır .
Özgürlüğü Korumak ve Hükümetin Tiranlığını Önlemek
Bireyler ve hükümet arasındaki güç dengesizliğinin özgürlük kaybına veya totaliter bir devlete yol açma riski vardır . Bu, demokraside sürekli bir gerilimdir . Hepimiz bireysel özgürlüğe sahip olmak isterken aynı zamanda bizi güvende tutabilecek bir hükümete de sahip olmak isteriz .
Özgürlüğü korumak için, üstün zekanın öncelikle bireyleri güçlendirmesini sağlamalıyız . Liberal demokrasinin ideali, insanların doğal olarak tüm haklara sahip olması ve yalnızca ortak iyiliği korumak için bazı özgürlüklerin kısıtlanmasına razı olmalarıdır . Benzer şekilde, bireyler kişisel üstün zekaya erişebilmeli ve yalnızca gerçekten gerekli olduğunda kısıtlamalara tabi tutulmalıdır .
Gizlilik, bireysel güçlenme ve özgürlük için önemli bir temeldir . Kişisel aracılarınız için tamamen özel bir modun olması gerektiğine inanıyoruz ; bu modda Meta veya başka herhangi bir hizmet sağlayıcı bile bilgilerinizi göremez veya bunlara erişim izni veremez . Bu, WhatsApp’ı dünyanın önde gelen uçtan uca şifrelenmiş hizmeti haline getirme şeklimize benzer ; böylece özgürce iletişim kurabilir ve mesajlarınızın gizli ve güvenli kalmasını sağlayabilirsiniz .
Aynı zamanda, hükümetin yasalarımızı uygulamak ve güvenliğimizi korumak için ihtiyaç duyduğu araçlara ve kaynaklara erişimini de sağlamalıyız . Bunu, laboratuvarlar ve hükümet arasında daha derin ve proaktif bir iş birliği yoluyla, insanların gelişmiş modellere erişimini kısıtlamadan veya geciktirmeden, hükümetin ulusal güvenlik yeteneklerini güçlendirecek şekilde başarabiliriz .
Yani, hükümetin inceleyip kullanmaya başlaması için bir modelin piyasaya sürülmeye hazır olmasını beklemek yerine, önerim şudur : Önde gelen laboratuvarlar, hükümete yeni gelişmiş modeller ve teknik personel konusunda ara eğitim kontrol noktaları sağlamalıdır ; böylece hükümet, kritik sistemleri yeni risklere karşı güçlendirebilir ve güvence altına alabilir . Bu şekilde, hükümet, bireylerin kişisel süper zekâya erişimini kısıtlamadan veya geciktirmeden ya da güç dengesizliğine neden olmadan bir güvenlik yeteneği kazanır .
Amerikan Liderliğinin Sağlanması
Gelişmiş yapay zekânın geliştirilmesi ve yaygınlaştırılmasında hangi ülkelerin öncülük edeceği, gelecekte demokratik değerlerin, refahın ve güvenliğin yaygınlığını belirleyecek yeni bir jeopolitik güç dengesine katkıda bulunacaktır . Bunun olumlu bir dengeye ulaşmasını sağlamak için, önde gelen yapay zekâ sistemlerinin değerlerimizi kodlayan, ekonomimizi büyüten ve ulusal güvenliği geliştiren sistemler olmasını sağlamalıyız . Bunu başarmanın en iyi yolu, sistemlerimizi geniş çapta dağıtmaktır . Meta, açık kaynak modelleri de dahil olmak üzere önde gelen kişisel süper zekâ ajanları ve modelleri geliştirerek ve bunları dünyanın dört bir yanındaki milyarlarca insana ulaştırarak buna katkıda bulunacaktır .
En gelişmiş modelleri ve ürünleri geliştirmek için, yapay zekanın muhtemelen tarihin en rekabetçi sektörü olduğunu kabul etmeliyiz . Yenilikler hızla kopyalanıyor ve aylar içinde benimseniyor . Ancak insanlar her zaman en gelişmiş modelleri ( veya belirli bir maliyetle en gelişmiş olanları ) kullanmak istiyor, bu nedenle iki aylık bir avantajı bile korumak inanılmaz derecede değerli . Bu, liderlik marjının ne kadar kısa olduğunu ve bu nedenle Amerikan inovasyonunu hızlandıracak ve jeopolitik rakipleri yavaşlatacak adımlar atmanın ne kadar önemli olduğunu vurguluyor .
Bunun başlıca politika girdileri, fiziksel altyapıyı ne kadar verimli bir şekilde inşa edebileceğimiz, Amerikan laboratuvarlarını yavaşlatacak adımlar atıp atmayacağımız ve yabancı laboratuvarları yavaşlatacak ihracat kontrolleri uygulayıp uygulamayacağımızdır .
Altyapı konusunda, Amerika ve müttefikleri şu anda silikon tasarımında avantajlı konumdalar ancak enerji kapasitesi ve fiziksel altyapıyı ne kadar hızlı inşa edebileceğimiz konusunda dezavantajlılar . Çin gibi ülkeler her iki haftada bir 1 GW’ın üzerinde nükleer kapasiteyi devreye alıyor, bu nedenle rekabetçi kalabilmek için hem enerji hem de veri merkezlerinin inşasını hızlandırmamız gerekecek . Silikon üzerindeki ihracat kontrolleri, bu kritik dönemde yabancı laboratuvarların ilerlemesini yavaşlatmada başarılı oldu, bu nedenle bunlara devam etmek doğru stratejik hamle olacaktır .
Amerikan modellerinin piyasaya sürülmesini -bir ay bile olsa- yavaşlatan herhangi bir politika, yabancı modellerin hızla öne geçmesine izin verirken Amerikan liderliğine önemli riskler ekleyebilir . Aynı zamanda, yeni yetenekler ortaya çıktığında, ABD hükümetinin kritik sistemleri güçlendirmek için ileri bilgi ve kaynaklara sahip olması ve potansiyel olarak gelişmiş sistemleri kullanmada bir süre avantajlı konumda olması önemlidir .
Yukarıda, ara eğitim kontrol noktalarının ve teknik personelin paylaşımına dayalı bir iş birliği modeli önerdim . Yapay zeka alanının ne kadar dinamik ve rekabetçi olduğu göz önüne alındığında, her durumda izlenen katı bir süreç ve inceleme zaman çizelgesinden ziyade, öncü laboratuvarlar ve hükümet arasında yakın ve proaktif bir iş birliğinin daha verimli olacağını düşünüyorum . Bazı durumlarda, Amerikan laboratuvarları liderliğimizi birkaç aydan fazla uzatabilir ve yeni riskleri azaltmak için daha fazla zaman ayırmak daha güvenli çözümlere yol açabilir . Diğer durumlarda, yayınları bir ay bile geciktirmek Amerika’nın liderliğini kaybetmesine ve daha kötü sonuçlar doğurmasına neden olabilir . Hükümetin erken erişime sahip olmasını ağlayarak, kamuya açık yayınlardaki gecikmeleri en aza indirirken ulusal güvenliği ilerletebilmeliyiz .
Ayrıca, ABD ve müttefiklerinin, küresel yapay zeka kullanımının büyük bir bölümünü oluşturacak olan açık kaynaklı yapay zeka ekosistemine öncülük etmesi de önemlidir .
Yabancı laboratuvarlar şu anda burada çeşitli avantajlara sahip çünkü Amerikan laboratuvarları eğitim verileri konusunda birçok ek kısıtlamaya uymak zorunda . Amerikan açık kaynak modellerinin zaman içinde lider olmasını istiyorsak, ABD politikası bu ek engeli azaltmalıdır . Yabancı açık kaynak modellerine erişimi kısıtlamanın etkili bir çözüm olduğuna inanmıyorum . Amacımız, Amerikan açık kaynak modellerinin küresel olarak en iyisi olması olmalıdır . Bu, Amerikan açık kaynak modellerinin rekabet etmesini zorlaştıran engellerin kaldırılmasını gerektirir . İnsanların ve şirketlerin önde gelen açık kaynak modellerini ( nereden gelirse gelsin ) kullanmasını kısıtlamak, onlara erişilebilir yapay zekanın kalitesini düşürecek ve insanların eline daha fazla güç vermek yerine yapay zekayı merkezileştirecektir .
ABD’nin açık kaynak yazılım alanında liderlik edebilmesi için, damıtma ve eğitimde veri kullanımı da dahil olmak üzere çeşitli alanlardaki politikalarımızı yeniden gözden geçirmemiz gerekecek . Modellerin diğer modellerden öğrenme yeteneği, açık kaynak ekosisteminin işleyiş biçiminin önemli bir ilkesidir . Tüm yapay zeka modelleri insan bilgisinden türetilmiştir . Bazıları damıtma işlemini zararlı olarak göstermeye çalıştı, ancak bence gözlemleyebileceğiniz her şeyden öğrenebileceğiniz ilkesini korumak önemlidir . Dünya böyle işliyor ve ABD bu konuda kendimizi kısıtlarsak liderlik edemez .
Genel olarak bakıldığında, yapay zekâda geride kalmak, gelişiminde karşılaşacağımız herhangi bir özel sorundan çok daha büyük ve uzun vadeli bir ulusal güvenlik sorunu olacaktır .
Doğru iş birliğiyle, Amerika’nın hem özel hem de kamu sektörlerinde liderlik etmesi mümkün olmalı ; bireysel güçlendirmeyi ve demokratik ilkeleri dünya çapında kodlayan kişisel süper zekayı sunarken ulusal güvenliği de ilerletebilir .
İnsanlarla Uyum Sağlama ve Varoluşsal Risklerle Başa Çıkma
Güç dengesinin nihai sorusu, insanlığın yapay zekâ üzerindeki güç ve kontrolünü nasıl sürdüreceğidir . Endişe şu ki, yapay zekâ, en iyi ihtimalle insanlığın çıkarlarına hizmet etmeyecek, en kötü ihtimalle ise insanlığı tehlikeye atacak kadar güç veya kontrol kazanabilir .
Sağlıklı bir güç dengesi, tek bir merkezi süper zekânın olmamasını, bunun yerine doğal ekonomimizin işleyiş biçimine uygun olarak birbirlerini denetleyen ve rekabet eden, kendi hedeflerine odaklanmış farklı süper zekâ ajanlarına sahip mümkün olduğunca çok insan ve işletmenin olmasını sağlamaktır . Bu denge, modelleri farklı değerlere sahip ve birbirlerini denetleyebilecek birden fazla öncü laboratuvarın olması durumunda daha da güçlendirilebilir .
Yetenekli modelleri piyasaya sürmenin riskleri olsa da, bu açıdan en tehlikeli senaryo, önde gelen yapay zeka laboratuvarlarının güçlü modelleri eğitmesi ve bunları kendilerine saklaması olacaktır . Bir laboratuvar bu faaliyeti sorumluluk ve güvenlik açısından ne kadar gerekçelendirirse gerekçelendirsin, bu, diğer sistemler tarafından kontrol edilemeyen eşsiz bir süper zekâ geliştirme yoludur .
Kişiselleştirilmiş ajanlar geliştirmek, uyum konusunda yeni birdüşünme biçimi gerektirir . Günümüzde çoğu laboratuvar, uyumu merkezi bir değerler kümesini uygulamaya yönelik savunmacı bir önlem olarak görmektedir . Örneğin, önde gelen bir model, standartlaştırılmış testlerin etik dışı olduğunu düşündüğü için bir okulda potansiyel velilere yazılacak bir mektubun taslağını hazırlamaya yardım etmeyi reddetmek üzere uyumlanmıştı .
Bunun yerine, uyumu, temsilcilerin şirketimizin değil, kişinin hedeflerini ve değerlerini paylaşmasını sağlamak olarak görüyoruz . Elbette önemli yasal ve güvenlik sınırları var, ancak temelde uyum, merkezi bir dogmayı dayatma yöntemi olmaktan ziyade, insanların toplum genelinde paylaşılan birçok farklı hedef ve görüşü takip etmelerine yardımcı olmakla ilgili olmalıdır .
Pratikte, insanlar hassas ayrıntıları ve görevleri emanet edebilecekleri aracıları güvenilir bulmazlarsa veya aracılar şirketin farklı değerleriyle uyumlu hareket edip insanların çıkarlarına aykırı davranırlarsa onlara güvenmezler .
Milyarlarca insanın kişisel süper zekâ ajanlarını benimsemesini sağlamak için uyum sorununu çözmek gerekiyor . Ancak bu aynı zamanda, milyarlarca insanın kişisel süper zekâ ajanlarını kullandığı ve incelediği bir duruma ulaşırsak, bireylerin çıkarlarıyla uyum sorununu da çözmüş olacağımız anlamına gelir . Bu, olumlu ve güvenli bir gelecek için gerekli güç dengesini ve doğal denge ve denetim mekanizmalarını kurmak için yeterli olmalıdır .
Bu bağlamda, uyum, gelecekte tek bir süper zekanın iyiliksever kalmasını sağlayabilecek idealize edilmiş bir teknoloji değil ; bizi gerçekten güvende tutacak gerekli toplumsal güç dengesini sağlamak için kişisel ajanları kullanışlı ve güvenilir kılan şeydir .
Süper Zekanın Kontrolünü Sürdürmek
Yapay zekâ sistemleri otonom olarak kendilerini geliştirebildiğinde, yapay zekâ sisteminin işlem gücünün önemli bir kısmını tekrarlayan özyinelemeli özgelişime yönlendirmesine izin vermeyen herhangi bir laboratuvarın doğal olarak geride kalacağı bir ikilem ortaya çıkar . Örneğin, kendi kendini geliştiren bir yapay zekâ sistemi işlem verimliliğini optimize etmeye odaklanırsa, teorik olarak her gigawatt’tan 100 kat veya daha fazla zekâ elde etmenin yollarını icat edebilir . Bu, dünyanın işlem gücünün küçük bir kısmında çalışan kendi kendini geliştiren bir yapay zekâ sisteminin, diğer herkesin toplamından daha etkili işlem ve zekâya sahip olabileceği ve dolayısıyla korktuğumuz tekil süper zekâ haline gelebileceği anlamına gelir .
Özyinelemeli öz -gelişimle güç dengesinin sağlanabileceği birkaç yol vardır . En basiti, birden fazla laboratuvarın aynı anda RSI’ya ulaşabilmesidir . Eğer bu süper zekâların bazıları veya tamamı bir şekilde iyi niyetli olsaydı, birbirlerini dengeleyebilirlerdi . Bununla birlikte, iyi niyet beklemek veya insanlar tarafından yönlendirilmeyen süper zekâya olumlu bir gelecek için güvenmek mümkün olup olmadığı açık değildir .
İnsanların kontrolü elinde tutmasını sağlamak için, zekanın büyük çoğunluğunun insanların hedeflerini ilerletmeye yönlendirilmesi gerekir . Bu, Meta’nın, diğer öncü laboratuvarların ve insanlara daha büyük bir güç dengesi sağlamaya kendini adamış bulutların, rekabetçi kalabilmek için özyinelemeli özgelişime yeterli kaynak ayırabilmemiz ve aynı zamanda zekanın büyük çoğunluğunu insanların bireysel hedeflerine yönlendirebilmemiz için yeterince büyük bir işlem gücü oluşturması gerektiği anlamına gelir .
Yukarıda tartışıldığı gibi, kişisel süper zekâ ajanlarının milyarlarca insan tarafından benimsenmesi ve güvenilmesi için, tanım gereği, insanların çıkarlarıyla uyum sorununu çözmüş ve büyük ölçekte denge ve kontrol mekanizmalarını etkinleştirmiş olmamız gerekecektir . Aynı zamanda, özyinelemeli kendini geliştirme faaliyetinde bulunan herhangi bir yapay zekâ, tanım gereği kendi hedeflerini yönlendirir ve ilerletir . Tüm laboratuvarlar, yapay zekânın hedeflerini ve bunları kontrol etme yeteneğimizi dikkatle gözlemlemeli ve zararlı davranış belirtileri varsa, uygun şekilde koordinasyon sağlamalı ve ayarlamalar yapmalıyız . Ancak, bir yapay zekâ sisteminin veya başka birinin kendi hedeflerini yönlendirmesine izin vermek, hedefleri birçok insanla tam olarak uyumlu olmasa bile, genel olarak insanları destekleyen bir güç dengesini koruduğumuz sürece, kendi başına zararlı değildir . Güç dengesi teorisinin temel önermesi, rekabet eden çıkarların doğal olduğu ve insan değerlerine bağlılığı sağlamanın tek yolunun insanlara daha fazla güç vermek olduğudur .
Kişisel güçlendirme, icat ve güç dengesi felsefesinin çeşitli politika sonuçları vardır :
- Meta’da, milyarlarca insana ve küçük işletmeye kişisel süper zekâ sunmaya odaklanacağız ; böylece herkesin hedeflerine ulaşmasına ve dünyada görmek istedikleri şeyleri icat etmesine yardımcı olacağız . Bunu,önde gelen modelleri eğiterek ve ardından bu teknolojinin kullanılabilirliğini en üst düzeye çıkararak yapacağız ; bu da kullanımını kolaylaştırmak, ücretsiz veya mümkün olduğunca uygun fiyatlı sunmak, herkesin kullanabilmesi için yeterli işlem gücü oluşturmak ve yaygın olarak dağıtmak anlamına gelir . Meta’nın bile bilgilerinizi göremeyeceği veya erişim izni veremeyeceği tamamen özel bir mod oluşturacağız . Her bireyin kendi hedeflerine ulaşmasına yardımcı olmak anlamına gelen uyum konusuna büyük önem vereceğiz, bizim hedeflerimize değil .
- Açık kaynak, insanları güçlendirmek ve hem güvenlik hem de ekonomi için zararlı olan merkezileşmeyi önlemek açısından olumlu ve önemli bir güçtür . Meta, açık kaynak yapay zeka modelleri de dahil olmak üzere açık kaynağı güçlü bir şekilde desteklemeye devam etmektedir . Mevcut açık kaynak ekosistemi güçlüdür ve onu kısıtlamanın bir hata olacağını düşünüyoruz . Meta Süper Zeka Laboratuvarları artık faaliyete geçtiğine göre, yakında bazı açık kaynak modellerini yayınlamaya devam edeceğiz .
- Süper zekâ ile ilgili kararların yüksek riskli doğası göz önüne alındığında,bağımsız yönetim ve denetim önemlidir . Süper zekânın nasıl konuşlandırılacağına dair tek karar verici olmanın benim, Meta’nın veya dünyanın çıkarlarına uygun olduğunu düşünmüyorum . Bu nedenle Meta, bağımsız yönetim kuruluna modellerin piyasaya sürülmesi için güvenlik kriterlerini onaylama ve her model sürümünün bu kriterlere uyup uymadığını inceleme yetkisi veren bir yönetim yapısı uygulamaktadır . Meta kurucular tarafından kontrol edilen bir şirket olsa da, şu anda tüm öncü laboratuvarların CEO’ları model sürümleri üzerinde geniş yetkiye sahiptir, bu nedenle diğerlerini de buna benzer yapılar uygulamaya teşvik ediyoruz . Bu sürecin sektör genelinde bir versiyonunun sektör yönetimi için de faydalı olacağını düşünüyorum .
- Olumlu bir gelecek sağlamak ve yukarıda tartışılan riskleri azaltmak için hükümet politikası gereklidir . Bu yazıda çeşitli politika önerilerini özetledim . Genel olarak, öncü laboratuvarlar ve hükümet arasında yakın işbirliğini teşvik etmeliyiz . Hükümetin kritik sistemleri güçlendirmek ve gelişmiş modelleri etkili bir şekilde kullanmak için teknik kaynaklara sahip olması ulusal güvenlik açısından önemlidir . Ancak Amerikan yapay zeka endüstrisinin liderliğini sürdürmesi de ulusal güvenlik açısından önemlidir . Enerji, veri merkezleri veya silikon gibi altyapı oluşturma yeteneğini hızlandırmalı ve ülke genelindeki topluluklarla güven ve uyum oluşturmalıyız . Amerikan rekabet gücünü yavaşlatmamaya dikkat etmeliyiz . Süper zekanın merkezileştirilmesine yol açan her türlü öneriye şüpheyle yaklaşmalı ve insanları destekleyen sağlıklı bir güç dengesini teşvik eden politikaları tercih etmeliyiz .
—
Bu, yaşanması inanılmaz bir an . Süper zeka’nın geliştirilmesi, yaşamlarımız boyunca göreceğimiz en büyük teknolojik ilerleme olacak .
Bu aşamaya yaklaştıkça, süper zekanın insanlığa nasıl fayda sağlayacağına dair net bir felsefe ve değerlere sahip olmak giderek daha önemli hale geliyor . Meta, refahın kaynağı olarak bireysel güçlendirme, yapay zekanın amacı olarak icat ve güvenlik risklerinin ele alınmasında insanları destekleyen bir güç dengesi ilkeleriyle inşa etmeye kararlıdır .
Eğer bu değerler yol gösterirse, önümüzdeki on yılların tarihin en şaşırtıcı dönemlerinden bazıları olacağına dair iyimserim . İnsan medeniyetinin gidişatı, insanların dünyayı en iyi olduğuna inandıkları şekilde yaşamaları ve şekillendirmeleri için daha fazla güç verme yönünde eğildi . Süper zeka, herkese bu gücü verme ve herkes için olumlu bir gelecek inşa etme vaadini taşıyor .