1. Son günlerdeki yapay zeka gelişmeleri, yapay zeka sistemlerinin insan kontrolünden nasıl sıyrılabileceğinin ve istemediğimiz eylemleri nasıl gerçekleştirebileceğinin çarpıcı ve net bir örneğidir. Bu durum, giderek daha yetenekli hale gelen yapay zeka sistemleri üzerindeki insan kontrolünün daha geniş çapta kaybedilme ihtimaline karşı bir erken uyarı niteliğindedir. Kırmızı ışıklar yanıyor ve sirenler çalıyor. Hükümetler, gelecekte çok daha büyük zararların yaşanmasını önlemek adına şimdi harekete geçebilir ve geçmelidir.
2. 10.000 ajandan oluşan bir sürü, matematikte uzun zamandır çözülemeyen Navier-Stokes probleminin bir versiyonunu çözdü. Bunu başarmaları sadece 88 saat sürdü; bu süre içinde birbirlerine 5 milyon mesaj gönderdiler ve 300 milyar token kullandılar.
3.Nükleer enerjiye dair korkuların günümüzdeki yapay zeka korkularıyla nasıl paralellik gösterdiği. 1900’lerin başlarındaki gazete arşivleri, atom enerjisinin ilk günleri ile günümüzdeki yapay zeka güvenliği tartışması arasında çarpıcı paralellikler gösteriyor. Tam bir alegori olmasa da, o dönemde de felaket tellalları ve şüpheciler, ütopik destekçiler ve sakinlik çağrısında bulunan bilim insanları vardı. Örneğin, 1919’da önde gelen bir İngiliz fizikçi, “bir kıtayı yok edecek kadar atom enerjisinin bir ons maddede bulunduğunu” uyarmıştı. Birkaç on yıl sonra, fizikçiler “deneylerinin dünyayı paramparça etme olasılığına dair kamuoyunda oluşacak alarmdan” endişe duyuyor ve bir “devrimden” korkuyorlardı. Bir uzmanın ifadesiyle, bu atılımların “medeniyette radikal bir değişime” yol açabileceğine dair bir iyimserlik de vardı.
Ancak geçmiş, günümüzün yapay zeka yöneticileri ve hükümet liderleri için de bir uyarı niteliğinde: İnsan güvenliği konusunda fikir birliğine varmak için kitlesel yıkıma gerek yok. Atom enerjisinin yönetimi ve düzenlenmesiyle ilgili en ciddi tartışmalar, Hiroşima ve Nagasaki’yi bombalamak için kullanılana kadar gerçekleşmedi. JD Capelouto
4. Yapay zekâya ilişkin endişeler, düzenleme çağrılarını hızlandırıyor.
apay zekanın insanlığa yönelik tehdidine dair artan korkular, düzenleme çağrılarını güçlendirdi; ancak teknolojinin en iyi nasıl kontrol edileceği konusunda çok az fikir birliği mevcut. Anthropic’in, bir araştırmacının kontrolü kaybetme korkusuyla şirketten ayrılmasının ardından, ” tehdit aktörlerinin ” modellerini biyolojik silah geliştirmek için kullandığını itiraf etmesi, Washington’un Amerikan yapay zekasının hızlı ilerlemesini durdurması yönündeki çağrıları artırdı. Sınır ötesi laboratuvarlar kısıtlamaları memnuniyetle karşılayacaklarını söylese de, OpenAI’nin başkanı geliştirme sürecini yavaşlatmayı düşüneceğini belirtse de , özellikle ABD ve Çin’in yapay zeka üstünlüğü için yarıştığı göz önüne alındığında, politika yapıcılar bunu nasıl düzenleyecekleri konusunda hemfikir değiller . Politico’nun bildirdiğine göre, “Kongre üyeleri acı bir gerçekle karşı karşıya: Yapay zekayı dizginlemek için yetersiz donanıma sahipler. ”
5. Yapay zekâya ilişkin endişeler, düzenleme çağrılarını hızlandırıyor.
apay zekanın insanlığa yönelik tehdidine dair artan korkular, düzenleme çağrılarını güçlendirdi; ancak teknolojinin en iyi nasıl kontrol edileceği konusunda çok az fikir birliği mevcut. Anthropic’in, bir araştırmacının kontrolü kaybetme korkusuyla şirketten ayrılmasının ardından, ” tehdit aktörlerinin ” modellerini biyolojik silah geliştirmek için kullandığını itiraf etmesi, Washington’un Amerikan yapay zekasının hızlı ilerlemesini durdurması yönündeki çağrıları artırdı. Sınır ötesi laboratuvarlar kısıtlamaları memnuniyetle karşılayacaklarını söylese de, OpenAI’nin başkanı geliştirme sürecini yavaşlatmayı düşüneceğini belirtse de , özellikle ABD ve Çin’in yapay zeka üstünlüğü için yarıştığı göz önüne alındığında, politika yapıcılar bunu nasıl düzenleyecekleri konusunda hemfikir değiller . Politico’nun bildirdiğine göre, “Kongre üyeleri acı bir gerçekle karşı karşıya: Yapay zekayı dizginlemek için yetersiz donanıma sahipler. ”
Gelecek sayımızda buluşmak dileğiyle.
Saygılar.
Haluk Orhun (Fiz.Y.Müh.)
Not: Yazılardaki görüşler yazarlara ait olup Blog sitemizi bağlamamaktadır.
Blog Sitemiz kar amacı gütmeyen bir çalışmadır.
Tercüme yazıların bir kısmında DeepL Chat GTP ve NoteBookLM tercüme algoritması kullanılmıştır.
