Etik ilkeler sayfasının kaynağını görüntüle

YZ (yapay zekâ) teknolojileri; sağlık, eğitim, tarım, imalat, adalet, iş yeri yönetimi gibi çeşitli alanlarda giderek daha fazla kullanılıyor. Bu alanlarda insanların işleriyle ve birbirleriyle olan ilişkilerini değiştiriyor ve dönüştürüyor. Söz konusu değişimin insanlık için iyi mi yoksa kötü mü sonuçlanacağı henüz belirsizliğini korusa da YZ'nin insanlığa ve çevreye etkileri hakkında ciddi endişeler var. Üretken YZ teknolojisiyle beraber bu endişeler daha da arttı.

Örneğin, FLI'nın (Yaşamın Geleceği Enstitüsü – Future of Life Institute) 22 Mart'ta yayımladığı "Dev Yapay Zekâ Deneylerini Duraklatın" başlıklı açık mektupta, dev YZ deneylerinin duraklatılması isteniyordu. İmzacılar arasında Yoshua Bengio, Stuart Russell, Gary Marcus gibi YZ dünyasının önemli isimlerinin yanında Elon Musk, Steve Wozniak, Yuval Noah Harari, Daron Acemoğlu gibi isimler de vardı. Mektupta YZ sistemlerinin artık genel görevlerde insanlarla rekabet edebilir hale geldiğine dikkat çekiliyor ve şu sorular soruluyordu: 

• Makinelerin bilgi kanallarımızı propaganda ve gerçek olmayan şeylerle doldurmasına izin vermeli miyiz? 

• Tatmin edici olanlar da dahil, tüm işleri otomatikleştirmeli miyiz? 

• Eninde sonunda bizi geçebilecek ve yerimizi alabilecek zihinler geliştirmeli miyiz? 

• Medeniyetimizin kontrolünü kaybetme riskine girmeli miyiz?

Ayrıca açık mektupta bu gibi kararların seçilmemiş teknoloji liderlerine bırakılamayacağı belirtiliyor; doğruluk, şeffaflık ve yorumlanabilirlik vurgusu yapılıyordu (https://futureoflife.org/open-letter/pause-giant-ai-experiments/).

Daha sonra, 30 Mayıs'ta, CAIS'in (Center for AI Safety – Yapay Zekâ Güvenliği Merkezi) web sitesinde yayımladığı bildiride ise şöyle yazıyordu (https://www.safe.ai/work/statement-on-ai-risk): Yapay zekâ kaynaklı yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır.

YZ'den kaynaklanabilecek sorunlara karşı iki ana eğilim söz konusu. Birincisi, teknoloji şirketlerinin faaliyetlerinin ve YZ'nin kullanımının ulusal ve uluslararası kuruluşlar tarafından düzenlenmesi ve sınırlanması. İkinci eğilim ise teknoloji şirketlerinin kendilerinin belirlediği YZ etiği ilkeleri ve yine kendi bünyelerinde kurdukları YZ etik kurulları ile kendi kendilerinin faaliyetini düzenlemeye çalışmaları.

Şirketler inandırıcılıklarını artırmak için yoğun kulis faaliyetleri ve halkla ilişkiler çalışmaları yürütüyorlar. 2020’nin başlarında, dünya çapında 167 YZ etiği yönergesi vardı. Etik ilkeler ve kurullar ile şirketler, ulusal ve uluslararası düzenlemelere gerek olmadığını, kendi faaliyetlerini en iyi kendilerinin düzenleyebileceğini iddia ediyorlar. Etik ilkelerin sağladığı meşruiyet tamponu ile kamuoyunun haklı endişeleri bertaraf ediliyor. Şirketlerin etkinlikleri kamusal denetimden muaf tutulduğunda şirketler faaliyetlerini takip etme yükü aktivistlerin omuzlarına biniyor. Örneğin, YZ teknolojilerin çevreye etkileri ve çevre politikaları şirketlerin kendi açıklamalarıyla değil, araştırmacı gazetecilerin çabasıyla gündeme gelen bir sorun oldu.

Kamusal denetim iddiasındaki bir meslek örgütünün YZ hakkındaki etik ilkeler oluşturması, kendi varlığıyla çelişip çelişmediği sorusunu akla getirebilir. Ancak BMO YZ Etik İlkeleri, "teknoloji şirketlerinin faaliyetlerinin ve YZ'nin kullanımının ulusal ve uluslararası kuruluşlar tarafından düzenlenmesi ve sınırlanması" hedefiyle çelişmiyor. Tam tersine sunulan ilkeler; TMMOB'nin toplumcu politikaları üzerinde yükselmekte, yasal düzenleme ve sınırlamaların hangi ilkeler çerçevesinde olması gerektiğini savunuyor.

YZ etiğini kısaca aşağıdaki gibi tanımlayabiliriz (Leslie, 2019): YZ teknolojilerinin geliştirilmesi ve kullanımında ahlaki davranışa rehberlik etmek için yaygın olarak kabul edilen doğru ve yanlış standartlarını kullanan bir dizi değer, ilke ve teknik.

Dolayısıyla YZ etiği aslında doğru ve yanlışın ne olduğunu da tartışıyor. YZ etiği hakkındaki tartışmaları çoğunlukla iki farklı bağlamda yürütülüyor. Birinci bağlam, Süper Zekâ veya Tekillik tartışmalarında görülebileceği gibi YZ'nin neler yapabileceğine odaklanıyor. Robot ayaklanmaları veya robotların dünyayı ele geçirip insanlığa son vermesi gibi hayali senaryolar tartışılıyor. İkinci bağlamda ise açıklanabilirlik (explainability), YZ modellerine içsel ön yargılar, yurttaşların mahremiyet (privacy) haklarını ihlal eden yüz ve duygu tanıma sistemlerinin yaygın kullanımı gibi yapay öğrenmenin (machine learning) doğasından gelen kaygılar öne çıkıyor.

Hayali senaryolar hakkında şimdilik söyleyecek bir şeyimiz yok. İkinci bağlamda yürütülen tartışmalara ve önerilen etik ilkelere BMO YZ Etik İlkeleri'nde de yer verdik. Ama bunlarında yanında kamuoyunun doğru bilgilendirilmesi, adalet, YZ'nin çevreye etkisi gibi sorunları da gündemimize aldık. Aşağıdaki ilkelerde doğruyu ve yanlışı değerlendirirken yalnız kendimizi değil, bizden sonraki kuşakları da göz önünde bulundurduk:

* '''[[Nesnellik]]:''' YZ'nin mevcut potansiyeli nesnel olarak değerlendirilmeli; kamuoyunu yanıltan abartılı iddialardan kaçınılmalıdır.
* [[Adalet ve Eşitlik|'''Adalet ve Eşitlik''']]: YZ, küresel adalete ve faydalara eşit erişime katkıda bulunmalıdır.
* Açıklanabilirlik: Toplumsal düzenlemelerde kullanılan YZ sistemleri açıklanabilir olmalı ve bu sistemlerden etkilenenler alınan kararın dayanaklarını sorgulayabilmelidir.
* Sürdürülebilirlik: YZ sürdürülebilirlik hedeflerini desteklediği gibi kendisi de sürdülebilir olmalıdır.
* Ön Yargı: Kamuoyu, YZ'nin tarafsız olmadığı ve tam olarak nesnel olamayacağı hakkında bilinçlendirilmelidir. YZ sistemlerinin neden olabileceği veya artırabileceği yanlılıkların (bias) önüne geçebilmek için kullanılan şirketler ve kurumlar, veri setleri, geliştiren ekibin profili ve kullanılan algoritmalar hakkında şeffaf olmalıdır.
* Mahremiyet: YZ teknolojilerini geliştiren şirketler insanların mahremiyet hakkına saygı duymalıdır. Hassas ve insan haklarını tehdit edebilecek durumlarda yüz tanıma ve duygu tanıma gibi teknolojiler kullanılmamalıdır.
* Hesap Verebilirlik: Algoritmalar ve onları yönlendiren veriler insanlar tarafından tasarlanır ve oluşturulur.  Sonuçlar; insanların tasarım hakkındaki kararları, neyin optimize edileceğiyle ilgili belirledikleri kurallar ve hangi eğitim verilerinin kullanılacağı hakkındaki seçimleriyle şekillenir. Yaşam döngüleri boyunca YZ'lerin düzgün çalışmasının sağlanması için tasarımcıların, geliştiricilerin ve bu  sistemleri kuranların uyacağı  standartlar ve mevzuatlar geliştirilmeli; sorumluluklar açık seçik olarak belirlenmeli;  kişiler veya kurumlar,  gerçekleştirdikleri eylemlerden sorumlu tutulmalıdır.
* Zarar Vermemek: YZ sistemleri, kullanım öncesinde veya sonrasında kamu çıkarlarını hedefleyen, bağımsız gözetim kuruluşları tarafında izlenmeli; olumsuzluklara karşı ulusal veya uluslararası kuruluşlar tarafından (gerekli durumlarda söz konusu sistem veya ürünün tamamen yasaklanmasını içeren) yaptırımlar uygulanmalıdır. Bireysel, toplumsal ve çevresel zararların araştırılması, tespiti ve çözümü hakkındaki sorumluluk ulusal ve uluslararası düzenleyici kurumlara yüklenmemeli, teknoloji şirketlerine zarar vermediklerini kanıtlama yükümlülüğü getirilmelidir.
* Özerklik: YZ, çalışanların yerini almayı hedefleyen tarzda değil, çalışanlara destek olacak ve onları güçlendirebilecek şekilde geliştirilmeli ve uygulanmalıdır.

===== Kaynak =====
Leslie, D. (2019). Understanding artificial intelligence ethics and safety. arXiv preprint arXiv:1906.05684.
[[Kategori:Etik]]