Özetle : Son zamanlarda yayınlanan iki makale, iş yerinde yapay zekâ kullanılırken çalışanların güvenliğini sağlamaya yönelik stratejiler sunuyor.
Hazırlayanlar : John P. Sadowski, Ph.D. ve John Howard, MD
Özet
Ulusal İş Sağlığı ve Güvenliği Enstitüsü (NIOSH), yapay zekanın (YZ) işyeri güvenliği ve sağlığı üzerindeki etkilerini anlamak ve çalışanlara, iş ve çevre sağlığı ve güvenliği (İSG) uzmanlarına YZ’yi güvenli bir şekilde nasıl kullanacaklarını öğretmek için yapılan çalışmaların ön saflarında yer almaktadır. Çalışanların ve işyerlerinin güvenliğini sağlamak, YZ teknolojilerinin potansiyel olarak faydalarından daha ağır basabilecek yeni risklere yol açmamasını sağlamaya yardımcı olabilir. Aşağıda, işyerinde YZ’nin güvenli kullanımını sağlamaya yönelik pratik stratejiler sunan iki yeni makalenin özetleri yer almaktadır.
Yapay zekâ hakkında daha fazla blog yazısı için NIOSH Bilim Blogu’nda arama yapılabilir.
YAZI: 1
İşyerinde yapay zeka tehlikelerini anlamak
The Synergist’in Haziran/Temmuz 2025 sayısında, NIOSH tarafından finanse edilen “Siz ve Robot Fabrikası: İşyerinde Yapay Zeka Tehlikelerini Anlamak İçin Bazı İlkeler” başlıklı makalede bir araştırmaya yer verildi.<sup> 1</sup> John P. Sadowski tarafından yazılan bu makale, yapay zekanın ilk bakışta işyerinin diğer potansiyel olarak tehlikeli yönlerinden radikal bir şekilde farklı görünse de, aslında yerleşik İş Sağlığı, Güvenliği ve Sağlığı (İSG) ilkeleri kullanılarak anlaşılabileceğini öne sürüyor.
Makale, yaygın olarak kabul görmüş tehlike tanımlama ve maruziyet değerlendirme metodolojilerinin, algoritmik olarak kontrol edilen bir kimya fabrikası örneğini kullanarak yapay zekanın yeni özelliklerini kapsayacak şekilde uyarlanabileceğini detaylandırıyor. Makale, algoritmalar için titiz bir endüstriyel hijyen bilimine veya “algoritmik hijyene” duyulan ihtiyacı öne sürüyor; bu bilim, algoritmik sistemlerin özelliklerini sağlık ve güvenlik sonuçlarıyla açıkça ilişkilendiriyor. Ayrıca makale, tüm endüstriyel sektörlerdeki OEHS (İş Sağlığı, Güvenliği, Sağlık ve Güvenlik) uzmanlarının varlığının, mevcut eğitim ve değerlendirme faaliyetleri aracılığıyla önemli bir etki yaratma sorumluluğu ve fırsatı verdiğini belirtiyor.
Şekil 1. Algoritmik hijyen için bir çerçeve. Yapay zeka sistemlerinin çeşitli özellik kategorileri, her biri standart mesleki tehlike türlerinden herhangi birine yol açabilir; bu özellikler somut tehlikeleri doğrudan yaratmasa da bunlara aracılık edebilir, ancak psikolojik tehlikeleri doğrudan yaratabilir… Resim yazıları tercümesi:
- System characteristics → Sistem özellikleri
- Data and methodology design → Veri ve metodoloji tasarımı
- Worker–algorithm trust → Çalışan–algoritma güveni
- Worker–management trust → Çalışan–yönetim güveni
- Job reskilling → İş becerilerinin yeniden kazandırılması
- Cybersecurity and hardware → Siber güvenlik ve donanım
- Hazard types → Tehlike türleri
- Tangible hazards (physical, chemical, biological) → Somut tehlikeler (fiziksel, kimyasal, biyolojik)
- Psychosocial hazards → Psikososyal tehlikeler
- Health impacts → Sağlık etkileri
- Hazard controls → Tehlike kontrolleri
- Prevention through work design → İş tasarımı yoluyla önleme
- Prevention through software design → Yazılım tasarımı yoluyla önleme
- Downstream controls → Sonraki aşama kontrolleri
Makale, algoritmik sistemlerin çeşitli temel özelliklerini tanımlayan ve bunları mevcut, iyi bilinen iş sağlığı ve güvenliği kategorileri ve kontrolleriyle ilişkilendiren bir çerçeve (Şekil 1) sunmaktadır. Bu çerçeve, gayri resmi bir literatür taraması ve çok sayıda iş sağlığı, güvenliği ve sağlığı araştırmacısı ve uygulayıcısıyla yapılan görüşmeler yoluyla oluşturulmuştur. Tehlike tanımlama ve kontrolü üzerine saha çalışmalarına rehberlik etmek ve algoritmaların iş sağlığı, güvenliği ve sağlığı üzerindeki etkilerine ilişkin araştırma soruları formüle etmek için bir başlangıç noktasıdır. Amaç, bireysel son kullanıcılar, geliştiriciler ve politika yapıcılar için uygulanabilir rehberlik için bilimsel bir temel sağlamaktır. Algoritmik hijyen biliminin ne olabileceğini kavramsallaştırmak için aşağıdaki beş ilke önerilmektedir:
- “Eğitimli algoritma” terimi, bir sistemin çıktısı veya davranışı için bir algoritma oluşturmak üzere bir eğitim veri kümesinin kullanılması anlamına gelir ve “yapay zeka” teriminin belirsizliğinden yoksun olduğu ve bir süreci pratik bir şekilde tanımladığı için daha iyi bir kavramsallaştırmadır.
- Algoritmalar, yerleştirildikleri fiziksel platformlardan ayırt edilmelidir; ancak platformlar, bir iş yerinde kullanılan eğitilmiş algoritmaların belirlenmesine yardımcı olabilir.
- Algoritmalar, fiziksel bir maddeye sahip olmayan yazılımlardır. Doğrudan yeni “somut” (fiziksel, kimyasal veya biyolojik) tehlikeler yaratamasalar da, kontrol ettikleri veya etkileşimde bulundukları fiziksel platformların veya maddelerin risk profilini değiştirirler. Bununla birlikte, algoritmalar iş organizasyonunu ve becerileri değiştirerek doğrudan psikososyal tehlikelere neden olabilirler.
- İş sağlığı, güvenliği ve sağlığı (İSG) uzmanları, özellikleri bilinmese bile algoritmik sistemlerin etkisini ayırt edebilen, her tehlike türü için alışılmış maruziyet değerlendirme araçlarını ve yöntemlerini kullanmaya devam edebilirler. Algoritmik sistemin özelliklerini dikkate almak, İSG açısından daha yeni ve zorlayıcı olabilir, ancak değerlendirmeyi geliştirecektir.
- Son kullanıcının organizasyonu içinde gerçekleştirilebilen “iş tasarımı yoluyla önleme” tehlike kontrolleri ile yazılım geliştiriciler tarafından uygulanması gereken “yazılım tasarımı yoluyla önleme” kontrolleri arasında bir ayrım vardır.
Zorluklar
İş sağlığı, güvenliği ve sağlığı (İSG) uzmanları ve araştırmacıları için zorluk, her sistem özelliğinin bir iş yerindeki her tehlike ve kontrol türüyle nasıl etkileşimde bulunduğunu yapılandırılmış bir şekilde belirlemektir. Makale, İSG araştırmacıları ve uzmanlarının, ekonominin tüm sektörlerindeki iş yerlerinde yapay zekanın güvenli ve sağlıklı kullanımını destekleyen pratik kılavuzlar ve standartlar oluşturabilecek sağlam bir kanıt tabanına dönüşecek şekilde algoritmik hijyen bilimini geliştirmeye odaklanmaları çağrısıyla sona ermektedir.
Yazı 2:
İşyerinde yapay zeka risklerinin yönetimi
Eylül 2024’te American Journal of Industrial Medicine’de yayınlanan bir yorum yazısında , ” İşyerinde yapay zeka risklerinin yönetimi ve işin geleceği” konusu ele alındı.” 2 numaralı raporda, iş yerinde yapay zekanın benimsenmesiyle ilgili zorluklar ele alındı. İş yeri cihazlarında, makinelerinde ve süreçlerinde güvenilir ve etik yapay zekanın kullanımını teşvik etmek için beş risk yönetimi seçeneği sunuldu.
- Etkin yapay zeka risk yönetimi, işverenler, çalışanlar ve iş sağlığı ve güvenliği uzmanları için zorlayıcı olabilecek bir dizi bilgisayar bilimi yetkinliği edinmek için yeniden beceri kazanmayı veya becerileri geliştirmeyi gerektirebilir. Bu yeni beceriler, iş sağlığı ve güvenliği uzmanlarına yapay zeka sistemlerini yönetme konusunda daha büyük bir yetenek kazandıracaktır.
- Yapay zeka geliştiricileri ve iş sağlığı ve güvenliği uzmanları, yapay zeka sistemlerinin güvenliğini, yeteneklerini ve uyumluluğunu değerlendirmek üzere iş birliğine dayalı yapay zeka sistemi değerlendirmeleri yapabilirler. Uyumluluk değerlendirmesi, bir yapay zeka sisteminin operasyonel sonuçlarının, geliştiricinin tasarım parametreleriyle amaçlanan sonuçlarla eşleşmesini sağlamaya odaklanır.
- Bağımsız bir denetim, algoritmik şeffaflık gibi araçlar aracılığıyla yapay zeka sistemlerinin yeteneklerinin risklerini değerlendirmek için kullanılabilir.
- Yapay zeka sistem sertifikasyonu, yapay zeka geliştiricilerini tasarım ve geliştirme aşamasında güvenilir yapay zeka prensiplerini benimsemeye teşvik etmenin ve son kullanıcıların devreye alınan bir sistemde güvenilir yapay zekanın yer aldığını doğrulamalarını sağlamanın bir yoludur.
- İşyeri sistemlerinin güvenli bir şekilde çalıştırılabileceğine dair ayrıntılı kanıtlar geliştirmelerine ve bu kanıt tabanının neye benzediğini anlamalarına yardımcı olmak için, yüksek riskli yapay zeka sistem risklerinin belirlenmesi, analizi ve değerlendirilmesi için metodoloji olarak “güvenlik sistemi yaklaşımı” ve “güvenlik durumu yaklaşımı” olmak üzere iki yaklaşım dikkate alınmalıdır.
Makale, ” Yapay Zeka Destekli Bir İş Yerini Çalışanlar İçin Güvenli Tutmaya Yönelik Yaklaşımları Keşfetmek” başlıklı blog yazısında daha ayrıntılı olarak özetlenmiştir .
Çözüm
NIOSH, yapay zekanın iş yerinde sağlayabileceği birçok avantajdan heyecan duyuyor ve bu teknolojilerin bunları kullanan çalışanlar için güvenli olmasını sağlayarak bu süreci desteklemeye kararlıdır. Bu makaleler, iş sağlığı, güvenliği ve sağlığı uzmanlarının, çalışanların ve işverenlerin iş yerinde yapay zekayı güvenli bir şekilde kullanmalarına yardımcı olabilecek pratik stratejiler sunarak bu hedeflere katkıda bulunmaktadır.
Yazar bilgileri
John P. Sadowski, Ph.D., yakın zamanda NIOSH Direktörlüğü Ofisi’nde yeni teknolojilerin iş sağlığı ve güvenliği üzerindeki etkileri konusunda uzmanlaşmış bir teknik analist (yüklenici) olarak görev yapmıştır.
John Howard, MD, NIOSH Direktörüdür.