İlkeler sayfasının kaynağını görüntüle

YZ (yapay zekâ) teknolojileri; sağlık, eğitim, tarım, imalat, adalet, iş yeri yönetimi gibi çeşitli alanlarda giderek daha fazla kullanılıyor. Bu alanlarda insanların işleriyle ve birbirleriyle olan ilişkilerini değiştiriyor ve dönüştürüyor. Söz konusu değişimin insanlık için iyi mi yoksa kötü mü sonuçlanacağı henüz belirsizliğini korusa da YZ'nin insanlığa ve çevreye etkileri hakkında ciddi endişeler var. Üretken YZ teknolojisiyle beraber bu endişeler daha da arttı.

Örneğin, FLI'nın (Yaşamın Geleceği Enstitüsü – Future of Life Institute) 22 Mart'ta yayımladığı "Dev Yapay Zekâ Deneylerini Duraklatın" başlıklı açık mektupta, dev YZ deneylerinin duraklatılması isteniyordu. İmzacılar arasında Yoshua Bengio, Stuart Russell, Gary Marcus gibi YZ dünyasının önemli isimlerinin yanında Elon Musk, Steve Wozniak, Yuval Noah Harari, Daron Acemoğlu gibi isimler de vardı. Mektupta YZ sistemlerinin artık genel görevlerde insanlarla rekabet edebilir hale geldiğine dikkat çekiliyor ve şu sorular soruluyordu:<blockquote>• Makinelerin bilgi kanallarımızı propaganda ve gerçek olmayan şeylerle doldurmasına izin vermeli miyiz?

• Tatmin edici olanlar da dahil, tüm işleri otomatikleştirmeli miyiz?

• Eninde sonunda bizi geçebilecek ve yerimizi alabilecek zihinler geliştirmeli miyiz?

• Medeniyetimizin kontrolünü kaybetme riskine girmeli miyiz?</blockquote>Ayrıca açık mektupta bu gibi kararların seçilmemiş teknoloji liderlerine bırakılamayacağı belirtiliyor; doğruluk, şeffaflık ve yorumlanabilirlik vurgusu yapılıyordu. <ref>https://futureoflife.org/open-letter/pause-giant-ai-experiments</ref>

Daha sonra, 30 Mayıs'ta, CAIS'in (Center for AI Safety – Yapay Zekâ Güvenliği Merkezi) web sitesinde yayımladığı bildiride ise şöyle yazıyordu <ref>https://www.safe.ai/work/statement-on-ai-risk</ref>: Yapay zekâ kaynaklı yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır.

YZ'den kaynaklanabilecek sorunlara karşı iki ana eğilim söz konusu. Birincisi, teknoloji şirketlerinin faaliyetlerinin ve YZ'nin kullanımının ulusal ve uluslararası kuruluşlar tarafından düzenlenmesi ve sınırlanması. İkinci eğilim ise teknoloji şirketlerinin kendilerinin belirlediği YZ etiği ilkeleri ve yine kendi bünyelerinde kurdukları YZ etik kurulları ile kendi kendilerinin faaliyetini düzenlemeye çalışmaları.

Şirketler inandırıcılıklarını artırmak için yoğun kulis faaliyetleri ve halkla ilişkiler çalışmaları yürütüyorlar. 2020’nin başlarında, dünya çapında 167 YZ etiği yönergesi vardı. Etik ilkeler ve kurullar ile şirketler, ulusal ve uluslararası düzenlemelere gerek olmadığını, kendi faaliyetlerini en iyi kendilerinin düzenleyebileceğini iddia ediyorlar. Etik ilkelerin sağladığı meşruiyet tamponu ile kamuoyunun haklı endişeleri bertaraf ediliyor. Şirketlerin etkinlikleri kamusal denetimden muaf tutulduğunda şirketler faaliyetlerini takip etme yükü aktivistlerin omuzlarına biniyor. Örneğin, YZ teknolojilerin çevreye etkileri ve çevre politikaları şirketlerin kendi açıklamalarıyla değil, araştırmacı gazetecilerin çabasıyla gündeme gelen bir sorun oldu.

Kamusal denetim iddiasındaki bir meslek örgütünün YZ hakkındaki etik ilkeler oluşturması, kendi varlığıyla çelişip çelişmediği sorusunu akla getirebilir. Ancak BMO YZ Etik İlkeleri, "teknoloji şirketlerinin faaliyetlerinin ve YZ'nin kullanımının ulusal ve uluslararası kuruluşlar tarafından düzenlenmesi ve sınırlanması" hedefiyle çelişmiyor. Tam tersine sunulan ilkeler; TMMOB'nin toplumcu politikaları üzerinde yükselmekte, yasal düzenleme ve sınırlamaların hangi ilkeler çerçevesinde olması gerektiğini savunuyor.

YZ etiğini kısaca aşağıdaki gibi tanımlayabiliriz<ref>Leslie, D. (2019). Understanding artificial intelligence ethics and safety. arXiv preprint arXiv:1906.05684.</ref>:<blockquote>''YZ teknolojilerinin geliştirilmesi ve kullanımında ahlaki davranışa rehberlik etmek için yaygın olarak kabul edilen doğru ve yanlış standartlarını kullanan bir dizi değer, ilke ve teknik.''</blockquote>Dolayısıyla YZ etiği aslında doğru ve yanlışın ne olduğunu da tartışıyor. YZ etiği hakkındaki tartışmaları çoğunlukla iki farklı bağlamda yürütülüyor. Birinci bağlam, Süper Zekâ veya Tekillik tartışmalarında görülebileceği gibi YZ'nin neler yapabileceğine odaklanıyor. Robot ayaklanmaları veya robotların dünyayı ele geçirip insanlığa son vermesi gibi hayali senaryolar tartışılıyor. İkinci bağlamda ise açıklanabilirlik (explainability), YZ modellerine içsel ön yargılar, yurttaşların mahremiyet (privacy) haklarını ihlal eden yüz ve duygu tanıma sistemlerinin yaygın kullanımı gibi yapay öğrenmenin (machine learning) doğasından gelen kaygılar öne çıkıyor.

Hayali senaryolar hakkında şimdilik söyleyecek bir şeyimiz yok. İkinci bağlamda yürütülen tartışmalara ve önerilen etik ilkelere BMO YZ Etik İlkeleri'nde de yer verdik. Ama bunlarında yanında kamuoyunun doğru bilgilendirilmesi, adalet, YZ'nin çevreye etkisi gibi sorunları da gündemimize aldık. Aşağıdaki ilkelerde doğruyu ve yanlışı değerlendirirken yalnız kendimizi değil, bizden sonraki kuşakları da göz önünde bulundurmaya çalıştık.

=== '''[[Nesnellik]]''' ===
YZ'nin mevcut potansiyeli nesnel olarak değerlendirilmeli; kamuoyunu yanıltan abartılı iddialardan kaçınılmalıdır. YZ hakkında yayılan abartılı söylemlerin (örneğin YZ'nin içerdiği varoluşsal riskler), diğer YZ ilkelerimizde ele aldığımız sorunların göz ardı edilmesinde büyük payı vardır. Dolayısıyla en başta kamu kurumlarındaki karar vericilerin, teknoloji şirketlerin yarattığı abartılı söylemlerin etkisinde kalmadan YZ teknolojilerini neden kullandıklarını sorgulamalıdır: YZ teknolojisini uygun şekilde uygulamak için yardım alacağımız YZ uzmanı (!) gerçekten ilgili teknoloji için gerekli bilgi derinliğine sahip mi? YZ’ye yatırım yaparken fırsat maliyetlerini hesaba kattık mı? Doğal kaynaklar, insan emeği ve enerji kullanımı da dahil olmak üzere tüm YZ altyapısının sürdürülebilirliğini dikkate alıyor muyuz? YZ tedarik zincirinin tamamının ve her bir bileşendeki etik, ekonomik, sosyal ve ekolojik hususların farkında mıyız?

=== [[Adalet ve Eşitlik|'''Adalet ve Eşitlik''']] ===
YZ, küresel adalete ve faydalara eşit erişime katkıda bulunmalıdır. YZ, gelişmiş ve gelişmemiş ülkeleri nasıl etkileyecek? Daha az eğitimli ve düşük gelirli insanlar, YZ'den yararlanabilecek mi? Teknolojiye kimler erişebilecek ve faydalarından yararlanabilecek? YZ'yi kullanarak kimler kendilerini güçlendirebilecek? Kimler bu YZ’nin sağlayacağı avantajlardan mahrum kalacak?

YZ’deki üretim ilişkilerini dikkate alarak bu gibi sorunlar ısrarla sorgulanmalı ve sorgulatılmalıdır. Büyük Teknoloji şirketleri kendiliklerinden ayrıcalıklı konumlarından vazgeçmeyeceklerine göre yurttaşların daha adil ve eşit bir dünya için harekete geçebilmelerini sağlayacak yollar geliştirmelidir.

=== '''[[Açıklanabilirlik]]''' ===
Toplumsal düzenlemelerde kullanılan YZ sistemleri açıklanabilir olmalı ve bu sistemlerden etkilenenler alınan kararın dayanaklarını sorgulayabilmelidir.

=== '''[[Sürdürülebilirlik]]''' ===
YZ sürdürülebilirlik hedeflerini desteklediği gibi kendisi de sürdürülebilir olmalıdır. Sürdürülebilirlik hedeflerine ulaşmak için, öncelikle YZ'nin sürdürülebilir veri kaynakları ve enerji altyapılarıyla entegre bir şekilde kullanılması gerekir.

=== '''[[Önyargı]]''' ===
Kamuoyu, YZ'nin tarafsız olmadığı ve tam olarak nesnel olamayacağı hakkında bilinçlendirilmelidir. YZ sistemlerinin neden olabileceği veya artırabileceği yanlılıkların (bias) önüne geçebilmek için kullanılan şirketler ve kurumlar, veri setleri, geliştiren ekibin profili ve kullanılan algoritmalar hakkında şeffaf olmalıdır.

=== '''[[Mahremiyet]]''' ===
YZ teknolojilerini geliştiren şirketler insanların mahremiyet hakkına saygı duymalıdır. Hassas ve insan haklarını tehdit edebilecek durumlarda yüz tanıma ve duygu tanıma gibi teknolojiler kullanılmamalıdır.

=== [[Hesap Verebilirlik|'''Hesap Verebilirlik''']] ===
Algoritmalar ve onları yönlendiren veriler insanlar tarafından tasarlanır ve oluşturulur.  Sonuçlar; insanların tasarım hakkındaki kararları, neyin optimize edileceğiyle ilgili belirledikleri kurallar ve hangi eğitim verilerinin kullanılacağı hakkındaki seçimleriyle şekillenir. Yaşam döngüleri boyunca YZ'lerin düzgün çalışmasının sağlanması için tasarımcıların, geliştiricilerin ve bu  sistemleri kuranların uyacağı  standartlar ve mevzuatlar geliştirilmeli; sorumluluklar açık seçik olarak belirlenmeli;  kişiler veya kurumlar,  gerçekleştirdikleri eylemlerden sorumlu tutulmalıdır.

=== [[Zarar Vermemek|'''Zarar Vermemek''']] ===
YZ sistemleri, kullanım öncesinde veya sonrasında kamu çıkarlarını hedefleyen, bağımsız gözetim kuruluşları tarafında izlenmeli; olumsuzluklara karşı ulusal veya uluslararası kuruluşlar tarafından (gerekli durumlarda söz konusu sistem veya ürünün tamamen yasaklanmasını içeren) yaptırımlar uygulanmalıdır. Bireysel, toplumsal ve çevresel zararların araştırılması, tespiti ve çözümü hakkındaki sorumluluk ulusal ve uluslararası düzenleyici kurumlara yüklenmemeli, teknoloji şirketlerine zarar vermediklerini kanıtlama yükümlülüğü getirilmelidir.

=== '''[[Özerklik]]''' ===
YZ, çalışanların yerini almayı hedefleyen tarzda değil, çalışanlara destek olacak ve onları güçlendirebilecek şekilde geliştirilmeli ve uygulanmalıdır.

'''Kaynakça'''
<references />