Çocuklar, yapay zeka (YZ) gibi dijital araçların yoğun kullanıcılarıdır. Metin, resim, video ve müzik gibi yeni içerikler oluşturabilen yapay zeka giderek daha karmaşık hale geliyor ve kullanıcı tarafından oluşturulan içeriği yapay zeka tarafından oluşturulan (sentetik) içerikten ayırt etmeyi zorlaştırıyor. Uygun şekilde denetlenmediği takdirde bu araçlar, bilişsel kapasiteleri henüz gelişmekte olan çocuklar için riskler taşıyabilir. Bu nedenle, çocuklar, eğitimciler ve ebeveynler için üretken YZ okuryazarlığını güçlendirme ihtiyacı, endüstrinin daha fazla çaba göstermesi ve izleme göstergeleri de dahil olmak üzere YZ mevzuatının daha iyi uygulanmasıyla birlikte giderek daha önemli hale gelmektedir.
Yapay zeka ile büyüyen ilk nesil.
Yapay zeka ile büyüyen ilk dijital neil çocuklar ve gençler hevesli internet kullanıcılarıdır. AB’deki çocukların çoğu akıllı telefonlarını her gün kullanıyor ve bunu on yıl öncesine göre çok daha küçük yaşlardan itibaren yapıyor. Ancak çoğu zaman, çocukların eriştiği çevrimiçi ortamlar orijinal olarak onlar için tasarlanmamıştır. Avustralya gibi bazı ülkeler, 16 yaşın altındaki çocukların sosyal medya platformlarını kullanmasını engellemek için yasalar çıkarmıştır. Aynı zamanda, daha küçük çocuklar sosyal medya gibi hizmetler tarafından belirlenen yaş gereksinimlerini atlamakta sorun yaşamamaktadır. Benzer şekilde, çocuklar halihazırda uygulamalara, oyuncaklara, sanal asistanlara, oyunlara ve/veya öğrenme yazılımlarına gömülü yapay zekayı kullanmaktadır. Birleşik Krallık’ta (İngiltere) 2024 yılında yapılan bir anket, 13-18 yaş arası gençlerin %77,1’inin üretici yapay zeka kullandığını göstermiştir ve bulgular, bu gençlerin bunu kullanma olasılığının yetişkinlerden iki kat daha fazla olduğunu ortaya koymaktadır. En yaygın kullanım, ev ödevi ve eğlence arayışı ile ilgilidir.
Birleşik Krallık, YZ fırsatları eylem planı kapsamında, denetim altında kullanılması koşuluyla YZ’nin okullarda uygulanmasını desteklemektedir.
Diğer dijital teknolojilerde olduğu gibi, en popüler yapay zeka araçları, asgari kullanım yaşı dışında, özelliklerini reşit olmayan kullanıcılara uyarlamak için özel önlemler almıyor. Örneğin Claude’s Anthropic, 18 yaşın altındaki kullanıcıların hizmetlerini kullanmasına izin vermiyor. ChatGPT ise 13 ila 18 yaş arasındaki kullanıcılardan ebeveyn izni talep ediyor. Google kısa bir süre önce Gemini yapay zeka sohbet robotunu uyarlayarak minimum yaş şartını 18’den 13’e (yalnızca öğrenci hesapları için) indirdi ve bu genç kullanıcıların verilerini yapay zeka modeli eğitiminden hariç tutmak gibi ek koruma önlemleri aldı. Brezilya, sosyal medya platformu X’in çocukların kişisel verilerini kullanarak yapay zekasını eğitmesini yasaklayarak benzer bir koruma önlemi almıştır.
Fırsatlar ve zorluklar.
Fırsatlar:
Üretken YZ, örneğin YZ odaklı araçların eğitime entegre edilmesi açısından birçok potansiyel fayda sağlayabilir. Bunlar, YZ’nin çocukların merak ve yenilik duygusu geliştirmelerine nasıl yardımcı olabileceğini açıklamak; onları soru sormaya, deney yapmaya ve gerçek dünyadaki sorunlara çözüm bulmaya teşvik etmek olabilir.
Öğrenme amaçlı YZ araçları tasarlarken, üretken YZ sağlayıcıları çocukların etkileşimlerini olumlu yönde etkileyebilir; örneğin, çocukların yazma becerilerini değiştirmek yerine geliştirmelerine rehberlik edebilir. Yapay zekanın eğitime entegre edilmesi, farklı öğrenme ihtiyaçlarını destekleyerek engelli öğrenciler için erişilebilirliği de artırabilir.
Zorluklar:
Yeterince uygulanmazsa, üretken YZ bir çocuğun öğrenmesine ve okul gelişimine müdahale edebilir. UNICEF, çocukların YZ ile etkileşime girme şeklinin hem fizyolojik hem de psikolojik etkileri olduğunu vurgulamaktadır. Yakın zamanda kurulan ve çok sayıda paydaşı içeren uluslararası Çocuklar için Faydalı YZ Koalisyonu, etkiyi değerlendiren ve riski azaltan yönergeler ortaya koymayı taahhüt etmiştir.
Aşağıda, üretken yapay zeka ile ilgili bazı temel zorluklar yer almaktadır.
Sentetik gerçeklik:
Dünya Ekonomik Forumu’nun Küresel Riskler Raporu’nun 2024 baskısı, dezenformasyonu önümüzdeki 2 yıl içinde dünyanın karşılaşabileceği en ciddi risk olarak sıralıyor – sentetik olarak üretilen içerikteki artışla birlikte artması muhtemel bir risk. Bir ankette, uzman dilbilimciler bile yapay zeka tarafından üretilen içeriklerin %62’sini insan yapımı olarak yanlış algılamıştır. Çocuklar özellikle deepfake gibi sentetik içeriklere karşı savunmasızdır ve henüz gelişmekte olan bilişsel yetenekleri nedeniyle daha kolay manipüle edilebilirler.
Massachusetts Institute of Technology Media Lab tarafından yapılan bir araştırma, 7 yaşındaki çocukların YZ ajanlarına gerçek duygular ve kişilik atfetme eğiliminde olduğunu göstermiştir. Üretken YZ, siber zorbalık veya çevrimiçi tımar da dahil olmak üzere çocuklara yönelik kötü niyetli amaçlar için de kullanılabilir. Yapay zeka tarafından üretilen çevrimiçi çocuk cinsel istismarındaki artış, kolluk kuvvetleri için halihazırda büyüyen bir zorluktur.
Eleştirel düşünmede azalma:
Üretken YZ’nin veri analizi ve otomasyon yeteneği öğrencilerin bilişsel becerilerini, özellikle de eleştirel düşünme ve problem çözme becerilerini azaltabileceğinden, önemli endişeler YZ destekli öğrenmenin öğrencilerin araştırma, yazma ve argümantasyon becerileri üzerindeki potansiyel sonuçlarına odaklanmaktadır. Bununla birlikte, bazı araştırmalar eleştirel düşünmeyi ve problem çözmeyi geliştirmek için yapay zekanın öğrenme araçlarına entegre edilmesini savunmaktadır; çünkü bu, öğrencilerin teknoloji odaklı bir gelecek için gereken analitik becerileri geliştirmelerine yardımcı olacaktır.
Eleştirel düşünmede azalma Üretken YZ’nin veri analizi ve otomasyon yeteneği öğrencilerin bilişsel becerilerini, özellikle de eleştirel düşünme ve problem çözme becerilerini azaltabileceğinden, önemli endişeler YZ destekli öğrenmenin öğrencilerin araştırma, yazma ve argümantasyon becerileri üzerindeki potansiyel sonuçlarına odaklanmaktadır. Bununla birlikte, bazı araştırmalar öğrencilerin teknoloji odaklı bir gelecek için gereken analitik becerileri geliştirmelerine yardımcı olacağından, eleştirel düşünme ve problem çözmeyi geliştirmek için yapay zekanın öğrenme araçlarına entegre edilmesini savunuyor.
Dijital uçurumlar ve yapay zeka okuryazarlığı:
UNESCO’ya göre, YZ okuryazarlığı, YZ araçlarının günlük yaşamda etkili bir şekilde kullanılması için gerekli bilgi ve becerileri, bunlarla ilişkili risk ve fırsatların farkında olmayı gerektirir. Bu nedenle, YZ okuryazarlığının dahil edilmesi, dijital uçurumu kapatmak ve kapsayıcılığı teşvik etmek için temel anlayış ve becerilerin oluşturulması için gereklidir. Öğrenme gelişiminin çok önemli rolüne rağmen, yapay zeka okuryazarlığı hala ortaokullarda ve üniversitelerde ilkokullara göre daha yaygın olarak uygulanmaktadır. Toplumsal cinsiyet perspektifinden bakıldığında, Ekonomik İşbirliği ve Kalkınma Örgütü (OECD) yapay zekanın
Ayrıca, YZ araçları çoğunlukla dünyanın en çok konuşulan üç dilinde (Çince, İngilizce ve İspanyolca) eğitilmektedir, bu nedenle YZ araçları bu dillerde daha az hassas olduğundan, düşük kaynaklı dilleri (YZ modellerini eğitmek için sınırlı dilsel verilerin mevcut olduğu) konuşan insanlar için YZ’yi daha az güvenli hale getirmektedir.
Eğitim paydaşları, öğretmenleri yapay zekanın etik kullanımı için hazırlayarak ve müfredatı uyarlayarak bu endişelerin üstesinden gelmede önemli bir rol oynayacaktır.
AB’nin mevcut eylemleri ve ilerleme yolları:
AB, çocukların çevrimiçi haklarını güvence altına almaya çalışmaktadır. Dijital Hizmetler Yasası (DSA), dijital platformların çocukların güvenliğine ve mahremiyetine öncelik vermesini ve onları yasadışı içerikten korumasını gerektirmektedir. Uygulanması gereken tedbirler arasında yaş doğrulaması ve reşit olmayanların profiline dayalı reklam gösterilmemesi yer almaktadır. AB’nin Daha İyi İnterneti
(BIK+) stratejisi dijital okuryazarlığı artırmayı, farkındalık artırıcı materyaller, bilgi ve eğitim kaynakları sağlamayı ve gençler için daha güvenli bir internet ortamı yaratmayı amaçlamaktadır. Yine de ne yaşam boyu öğrenme için temel yeterliliklere ilişkin Konsey tavsiyesi (en son 2018’de güncellenmiştir) ne de 2030 Dijital On Yıl politika programı, belirli bir yeterlilik olarak YZ okuryazarlığını içermemektedir ve sadece birkaç Üye Devlet okul müfredatlarında YZ yeterliliklerini tanıtmıştır. Avrupa Komisyonu’nun YZ’ye ilişkin etik yönergeleri
YZ ve verilerin öğretimde kullanımı, eğitimciler için bir araç anlamına gelmektedir.
AB’nin yakın zamanda kabul ettiği YZ Yasası, dünyanın ilk kapsamlı YZ yasasıdır. Çocuk hakları da dahil olmak üzere temel haklara tam olarak saygı gösteren güvenilir YZ uygulamaları için tek bir pazar oluşturmak üzere tek tip kurallar belirlemektedir. Yasa yürürlüğe girmiştir ve 2 Ağustos 2027 tarihinden itibaren tam olarak uygulanacaktır. Yasa, YZ sistemlerini şu şekilde sınıflandırmaktadır
Eğitime erişim veya kabul, öğrenme çıktılarını değerlendiren sistemler, eğitim seviyelerinin değerlendirilmesi ve öğrencilerin yasaklanmış davranışlarının tespiti gibi eğitimin bazı alanları için yüksek risk. Derin taklitlerin ve diğer YZ tarafından üretilen materyallerin filigranlanması ve YZ ile etkileşime girdiklerinde çocukların bilgilendirilmesi gerekliliği gibi genel hükümler de uygulandığında çocuklara fayda sağlayacaktır.
Genel Veri Koruma Yönetmeliği (GDPR), veri işlemede kişisel verilerin ifşa edilmesinin içerebileceği risklerin ve sonuçların tam olarak farkında olmayabilecekleri için çocukların özel korumayı hak ettiğini belirtmektedir. Bu nedenle, YZ’nin yükselişi bağlamında, daha fazla veri okuryazarlığına ihtiyaç duyulduğu öne sürülmektedir.
Genel olarak, YZ dijital bölünmelerinden kaçınmak için önemli bir boşluğun ele alınması gerekmektedir ve çocuklar tarafından üretken YZ kullanımının gelecekteki etkilerini tam olarak anlamak için ek araştırmalar gereklidir. Örneğin Dijital On Yıl pusulası ve dijital ekonomi ve toplum endeksi (DESI) gösterge tablosu kapsamında AB düzeyinde ortak göstergeler veya istatistikler mevcut değildir. Haziran 2026 için öngörülen Dijital On Yıl politika programının bir sonraki gözden geçirmesi, Avrupa Komisyonu’nun bu alanda hedef göstergeler sunması için bir fırsat sunabilir.
https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/769494/EPRS_ATA(2025)769494_EN.pdf
https://ec.europa.eu/commission/presscorner/detail/en/ip_22_2825