Hesap Verebilirlik
Algoritmalar ve onları yönlendiren veriler insanlar tarafından tasarlanır ve oluşturulur. Sonuçlar; insanların tasarım hakkındaki kararları, neyin optimize edileceğiyle ilgili belirledikleri kurallar ve hangi eğitim verilerinin kullanılacağı hakkındaki seçimleriyle şekillenir.
Yaşam döngüleri boyunca YZ'lerin düzgün çalışmasının sağlanması için tasarımcıların, geliştiricilerin ve bu sistemleri kuranların uyacağı standartlar ve mevzuatlar geliştirilmeli; sorumluluklar açık seçik olarak belirlenmeli; kişiler veya kurumlar, gerçekleştirdikleri eylemlerden sorumlu tutulmalıdır.
YZ sistemlerinin insan yaşamı üzerindeki etkileri her geçen gün daha da artmaktadır. Bu sistemler, iş başvuruları, performans değerlendirmeleri, yargı süreçleri, kredi notu belirleme, hastalık teşhisi gibi çok çeşitli alanlarda kullanılmakta; doğrudan veya dolaylı olarak karar alma süreçlerinde yer almaktadır. Dolayısıyla YZ sistemlerinin şeffaf, etik ve adil şekilde kullanıldığından emin olunması büyük önem taşımaktadır.
Çünkü işler her zaman yolunda gitmeyebilir. Tüm şartları sağlamanıza karşın iş başvurunuz gerekçesiz bir şekilde reddedilebilir; para transferleriniz şüpheli işlemler kategorisine girebilir ve hesabınız bloke edilebilir; yanlış teşhis ve onu takip eden yanlış tedavi nedeniyle sağlığınızı kaybedebilirsiniz. Bu gibi durumlar yaşandığında ne olacaktır? Ya da bu gibi sorunların önüne nasıl geçilebilir? Kimler, neye göre sorumluluk alacaktır?
YZ sistemleri kusursuz değildir. Hata yapabilir ve verdikleri kararlarla insanları mağdur edebilir. Algoritmalar ve onları yönlendiren veriler insanlar tarafından tasarlanır ve oluşturulur. Sonuçlar; insanların tasarım hakkındaki kararları, neyin optimize edileceğiyle ilgili belirledikleri kurallar ve hangi eğitim verilerinin kullanılacağı hakkındaki seçimleriyle şekillenir.
YZ'de hesap verebilirlik (accountability), bu gibi sorunlar bağlamında ve farklı öznelerin sorumluluklarını tanımlayabilmek amacıyla gündeme gelmiştir. YZ sistemlerinin tasarımı, geliştirilmesi, dağıtılması ve kullanımından sorumlu olan kişilerin veya kurumların bu süreçler sırasında yaptıkları eylemlerden sorumlu tutulabilmesini ifade eder. Hesap verebilirliği belirli bir cevap verebilirlik ilişkisi olarak tanımlayabiliriz. Bu ilişkinin gerçekleşebilmesi için birbiriyle iç içe geçen üç temel koşul vardır: otoritenin tanınması, sorgulama ve gücün sınırlandırılması.
Hesap Verebilirlik İçin Gerekli Koşullar
Otoritenin Tanınması
Görevlerin devredilmesiyle ilgili ve karşılıklı bir ilişkidir: A (örneğin vatandaş) X'e (örneğin kamu görevlisi) kendi çıkarlarına hizmet etmesi için yetki verdiğinde X de A'nın bu çıkarlara gerektiği gibi hizmet edilip edilmediği konusunda kendisini sorumlu tutacağını kabul eder. Bu ilişki gerçekleşmeden, hesap verebilirlik sadece "lütuf ve iyilikle raporlama veya bilgilendirme" halini alır.
Sorgulama
A'nın X'in hareketlerini incelediği gerçeğini ifade eder. Böylece 'hesap verebilirlik' ile 'ahlaki sorumluluk' arasındaki geleneksel ayrım ortadan kalkar. Hesap verebilirlik dışsal bir bakış açısından incelemeyi varsayar. Ahlaki sorumluluk ise içsel bir bakış açısına atıfta bulunur. Yalnızca kendine karşı sorumlu olmak, hiç sorumlu olmamak anlamına gelir.
Gücün Sınırlandırılması
A'nın X'in performansını izlemesine ve sonuçlarını değerlendirmesine olanak tanıyarak devredilen yetkinin keyfi kullanımını kısıtlar. Demokratik toplumlarda, devredilen yetkilerin kısıtlanabilmesi, bu yetkilerin meşruiyeti için bir ön koşuldur.
Hesap Verebilirliğin Başlıca Özellikleri
YZ'de hesap verebilirlik hedefi; tasarımcıların, geliştiricilerin ve YZ sistemlerini kuranların, yaşam döngüleri boyunca YZ'lerin düzgün çalışmasını sağlaması için standartlara ve mevzuata uymaları beklentisiyle ilgilidir. Ancak YZ sistemleri, geleneksel teknolojilerden bir çok açıdan farklıdır. Örneğin derin öğrenme sistemlerinin opaklığı ve öngörülemezliği, istenmeyen sonuçların nedenlerinin tespit edilmesini zorlaştırır. Ayrıca çeşitli etkenler, YZ'lerin yanlış (veya tartışmalı) işler yapmasına yol açabilmektedir. Örneğin YZ sistemlerinin neden olduğu (ya da artırdığı) ayrımcılık ön yargılı eğitim verilerinden, sistem hatalarından, programcı hatalarından, yanlış kullanımlardan vs kaynaklanabilir veya bazen bu etkenlerin bir kombinasyonu olabilir. Birden fazla aktör ve kaynak içeren sistemlerde bireysel sorumlulukları tam olarak belirlemek zor bir iştir. Ayrıca hiç kimsenin olumsuz sonuçları önlemek zorunda hissetmeyeceği bir durum ortaya çıkabilir. Tam tersi bir durum ise her biri farklı beklenti ve değerlendirme kriterlerine sahip tarafların çokluğunda ortaya çıkar. Bu sefer de taraflar arasında bir kafa karışıklığı ortaya çıkar.
Kısaca kimsenin sorumlu tutulmadığı hesap verebilirlik boşlukları ile prosedürlerin verimsiz bir şekilde biriktirildiği hesap verebilirlik fazlalıklarına karşı YZ'de hesap verebilirliği tartışırken aşağıdaki konuların netleştirilmesi gerekir:
1. Hesap verebilirlik hangi bağlam için tartışılmaktadır? (Niçin?)
Bu soruya alan (finans, sağlık, adalet, kamu yönetimi vs.), işlev (doğal dil işleme, filtreleme, sınıflandırma, robot kontrolü, bilgisayarla görü vb) ve özerklik düzeyi (elle kontrol, eylem desteği, paylaşımlı kontrol, tam otomasyon vb) bağlamında yanıt verilebilir.
2. Hesap verebilirlik ne hakkındadır? (Ne?)
YZ'nin yaşam döngüsü içinde üç görev kümesi etrafında bir tanımlama yapılabilir: Tasarım (planlama, odaklanılan hedef kitle, veri stratejisi, geliştirme stratejisi vb), geliştirme (modelin eğitimi, kodlama, test, güvenlik mekanizmaları vb), kurulum (izleme, işletme, kullanım).
3. Yukarıda belirtilen görevler kimler tarafından yerine getirilmektedir? (Kim?)
Bu soruya bireyler (YZ geliştiricileri, YZ tasarımcıları, uzmanlar vb), hiyerarşideki rolleri (patent sahipleri, yöneticiler, denetçiler, test uzmanları), kurumsal durumları (politika yapıcılar, geliştirme şirketleri, veri denetleyicileri ve hissedarlar) göz önünde bulundurularak yanıt verilebilir.
4. Hesap verebilirlik kime karşı yerine getirilmektedir? (Kime?) Örneğin, verileri YZ'leri eğitmek için kullanılan özneler; hissedarlar, alan uygulayıcıları (klinik uygulamalarından sorumlu uzmanlar).
5. Hesap verebilirlik hangi standarda göre tanımlanmaktadır? (Neye göre?)
Bu standart yasal (haksız fiiller, suçlar, adil olmayan ticari uygulamalar, mahremiyet vb), etik (adalet, şeffaflık, özerklik, kapsayıcılık, kırılganlık, güvenilirlik, sürdürülebilirlik vb), teknik (sağlamlık, uyarlanabilirlik, doğruluk, verimlilik, bakımı yapılabilirlik, güvenlik vb) olabilir.
6. Hesap verebilirlik süreçleri nasıldır? (Nasıl?)
İçsel (dahili denetimler, simülasyonlar, öz değerlendirmeler, piyasa sonrası izleme vb), insan-makine etkileşimi sonucu (geribildirim döngüleri, denetleyici kontroller ve etkileşimli yapay öğrenme), dışsal (sistem doğrulamaları, dış denetimler, dış uygunluk ve etki değerlendirmeleri, kamu denetimi ve adli incelemeler) olabilir.
7. Sonuçları ne olacak?
Bir kararla (öneri, onay, ret, yasak vb) sonuçlanabilir; yasalar çerçevesinde bir durumda şirket için itibar veya pazar kaybı olabilir; yasa dışı bir durumdaysa tazminat, tutuklama, para cezası, disiplin tedbiri, uzaklaştırma, revizyon talebi ve iptal gibi durumlar olabilir.
YZ’de Hesap Verebilirliğin Hedefleri
Hesap verilebilirliğin dört temel hedefi vardır.
1. Uyumluluk: YZ'nin etik ve yasal standartlara uyumu sağlanmalıdır. Bu hedef, bir yapay zekanın tüm yaşam döngüsü boyunca karşılanması gereken tasarım, geliştirme ve dağıtım standartlarını tanımlar, ancak özenli biçimde hazırlanmazsa oldukça genel geçer bir anlam taşır.
2. Raporlama: Hesap verebilirliğin diyalog boyutunu temsil eder. YZ'lerin davranışlarının açıklanmasını ve gerekçelendirilmesini sağlayan uygulamalardır.
3. Gözetim: YZ'lerin yaşam döngüsü performansını değerlendirmek için ilgili gerçekleri veya bilgileri bulmayı ve kanıt oluşturmayı amaçlar. Organizasyonun içinden veya dışından farklı organlar tarafından veya insan-makine arayüzleri aracılığıyla gerçekleştirilebilir.
4. Yaptırım: YZ'lerin performansının izlenmesini ve değerlendirilmesini resmi veya gayri resmi sonuçlara bağlar. Bu aynı zamanda istenmeyen davranışları caydırma amacını da taşır.
Ön alıcı ve Tepkisel Hesap Verebilirlik
Ön alıcı hesap verebilirlik, amaçlanan sonuçların üretilmesine ve amaçlanmayan sonuçların önlenmesine veya azaltılmasına odaklanır. Suistimal ve hatalara neden olan kurumsal hususları bunlar meydana gelmeden önce tespit etmeyi ve düzeltmeyi amaçlar. Ön alıcı hesap verebilirlikte, hedeflerin, rollerin, sorumlulukların ve komuta hatlarının doğru ve açık seçik bir şekilde belirlenmesi gerekir. Sistemik çarpıklıkları ön alıcı bir duruşla düzeltmek için, standart belirlemeye (uyum) ve YZ'lerin uygunluğu ve etkisine ilişkin ön kontrollere (gözetim) daha fazla önem verilir.
Tepkisel hesap verebilirlik, olay gerçekleştikten sonra gerekli adımları tetikler. İstenmeyen bir durum olduğunda, başarısızlıkların etkilerini telafi etmeyi amaçlar. Bu görüşe göre, hesap verebilirlik bir erdemden çok bir mekanizmadır. Olaydan sonra, sunulacak açıklama ve gerekçelere (raporlama) ve hesap verebilirlik değerlendirmesinin sonuçlarına (yaptırım) önem verilir. Gözetim, burada bir ön kontrolden çok geriye dönük bir inceleme (örneğin, yargı denetimi) olarak karşımıza çıkar.
Ön alıcı ve tepkisel hesap verebilirlik genellikle bir arada bulunsa da zaman zaman biri daha ön planda olabilmektedir. Ancak her iki hesap verebilirlik mekanizması da YZ'lerin yaşam döngüsü boyunca gözetim ve şeffaflık mekanizmaları sağlar ve böylece YZ'ye olan (kamusal) güvenin artırılmasında merkezi bir rol oynarlar.
