Nesnellik

Her yeni teknolojiye çeşitli vaatler ve felaket senaryoları içeren mitlerin eşlik etmesi olağan bir durumdur. Ama telgraf, telefon, elektrik ve son olarak da internet örneklerinde olduğu gibi yeni teknolojiler hakkındaki abartılı iddialar sonsuza kadar devam etmez. Teknoloji, gündelik hayatın sıradan bir parçası haline gelmeye başladığında teknolojinin sosyoekonomik ilişkilere etkileri daha somut hissedilmeye başlar.

Günümüzde yapay zekâ (YZ) teknolojileri için de benzer bir süreç söz konusudur. Ancak bu süreçte özellikle iki konuya dikkat etmek gerekiyor. Birincisi, YZ teknolojileri hakkındaki yayılan abartılı söylemlerin ortaya çıkışında ve yayılmasında teknoloji sektörünün önde gelen aktörleri büyük bir rol oynamaktadır. Bir diğer deyişle, önceki teknolojilerde olduğu gibi kendiliğinden ve çeşitli aktörlerin katkılarıyla ilerleyen heterojen bir süreç yoktur. İkincisi, teknoloji şirketlerinin başat rolü nedeniyle YZ teknolojisi hakkındaki abartılı iddialar şirketlerin çıkarlarına hizmet edecek biçimde şekillenmektedir. Ayrıca "varoluşsal riskler" gibi felaket senaryoları toplumun karşı karşıya olduğu asıl sorunları gölgeleyebimektedir.

YZ Abartılarının Yayılma Mekanizmaları

Antropomorfizm

Antropomorfizm (ister gerçek ister hayali olsun) hayvanlar, doğal güçler, tanrılar ve makineler gibi insan olmayan varlıkların davranışlarına insani özellikler (örneğin niyetler, motivasyonlar ve duygular) atfetmeyi içerir. Günümüzde YZ aracılığıyla bir kazanç elde etmek isteyen aktörler, antropomorfizmden yoğun bir şekilde yararlanırlar. Antropomorfizm, sosyal etkileşimi kolaylaştırmak, kullanıcı deneyimini iyileştirmek veya pazarlama amacıyla gündeme gelebilir. Örneğin şirketlerin, karar vericileri, YZ'nin gerçek bir 'anlayış' geliştirebileceğine veya sorunları doğru bir şekilde 'yorumlayabileceğine' ikna ettiğini varsayalım. Bu durumda YZ, sosyal yardımlar hakkında karar vermek, eğitime rehberlik etmek, davranışsal uyumu ölçmek veya mahkeme davalarını yargılamak gibi hassas görevlerde kullanılabilecektir.

YZ Uzmanlarının (!) Artması

ChatGPT gibi teknolojiler, YZ alanının erişilebilirliğinde bir genişlemeye yol açtı. Böylece sadece ChatGPT’yi veya üretken YZ API’lerini kullanmak dışında fazladan bir bilgisi olmayan YZ uzmanları türedi. Bu süreçte, toplumun YZ etrafında şekillenen güçlü anlatıya kendini adapte etmeye çalışmasının önemli payı var. Fakat YZ uzmanlarının (!) sayısı arttıkça YZ teknolojisini bir çekiç, her sorunu da teknolojik çözümlere ihtiyaç duyan bir çivi olarak görme eğilimi de güçlenmektedir.

Fırsatları Kaçırma Korkusu

“Teknolojinin hızına yetişemiyorum”, “acaba geride mi kaldım?” vb korkular bireyleri olduğu kadar devletlerin YZ politikalarını da etkilemektedir. Büyük teknoloji şirketleri ve geliştirdikleri YZ teknolojileri, giderek daha çok ulusların güvenliği ve egemenliği için vazgeçilmez olarak görülmektedir.. Yaşamın Geleceği Enstitüsü’nün GPT-4’ten daha güçlü YZ sistemlerinin eğitimine en az 6 ay ara verilmesi gibi çağrılar bir ara verme ve önlem çabasından çok YZ yatırımlarını artırmaya hizmet etmekte; bunun sonucunda da şirketler ve devletler "öyle büyük bir potansiyel güçten" geri kalmama endişesiyle YZ yatırımlarını artırmaktadır.

YZ Teriminin Aşırı Kullanımı

Son yıllarda, firmalar ürün ve hizmetlerinin YZ içerdiğini daha çok ifade etmeye başladılar. Şirketler abartılı ve kimi zaman asılsız iddialarla ürünlerini YZ ilişkilendirerek pazarlamaya gayreti içindeler.

Karar Vericiler Nelere Dikkat Etmeli?

YZ hakkında yayılan abartılı söylemlerin (örneğin YZ'nin içerdiği varoluşsal riskler), diğer YZ ilkelerimizde ele aldığımız sorunların göz ardı edilmesinde büyük payı vardır. Dolayısıyla en başta kamu kurumlarındaki karar vericilerin, teknoloji şirketlerin yarattığı abartılı söylemlerin etkisinde kalmadan, YZ'nin mevcut potansiyelini nesnel ve gerçekçi olarak değerlendirebilmeleri diğer etik ilkelerde tartışılan sorunların çözümünde önemli bir adım olacaktır. Aşağıdaki soruların sorulması, YZ hakkında nesnel bir bakış açısı geliştirilmesine yardımcı olabilir:

1. YZ teknolojilerini neden kullanıyoruz? Kurumumuzun bu teknolojilere gerçekten ihtiyacı var mı, yoksa sadece güncel olanı takip etme kaygısıyla mı hareket ediyoruz?
2. Kurumumuzda kullanılan YZ uygulaması neden insan biçimci bir tarzda tasarlanmış? Bu tarz, gerekli bir strateji mi?
3. YZ teknolojisini uygun şekilde uygulamak için yardım alacağımız YZ uzmanı (!) gerçekten ilgili teknoloji için gerekli bilgi derinliğine sahip mi?
4. YZ’ye yatırım yaparken fırsat maliyetlerini hesaba kattık mı?
5. Doğal kaynaklar, insan emeği ve enerji kullanımı da dahil olmak üzere tüm YZ altyapısının sürdürülebilirliğini dikkate alıyor muyuz? YZ tedarik zincirinin tamamının ve her bir bileşendeki etik, ekonomik, sosyal ve ekolojik hususların farkında mıyız?

Bu soruların yanında karar vericilerin YZ hakkındaki abartılı anlatıların farkında olması, kurumun YZ ihtiyacını daha gerçekçi değerlendirmesini sağlayacaktır. YZ’yi ilerlemenin tek yolu olarak sunma konusunda çıkarları olan aktörlerin bulunduğu hakkındaki farkındalık, YZ’nin gerekliliği konusunda daha ölçülü bir yargıya varılmasına yardımcı olacaktır.

Teknoloji Haberciliği

Kamuoyunu yanıltan abartılı iddiaların önüne geçebilmek için teknoloji habercilerine de önemli görevler düşmektedir. Teknoloji sektöründeki insanlar genellikle YZ modellerini ve bunların etkilerini anlayabilecek ve açıklayabilecek tek kişilerin kendileri olduğunu iddia ederler. Ancak bu iddialar özellikle şirket yetkilileri veya sözcülerinden geldiğinde iddialara şüpheyle yaklaşmak gerekir.

Teknoloji habercilerinin YZ modelleri hakkındaki iddiaları değerlendirirken aşağıdaki konuları dikkate alması kamuoyunun bilinçlenmesine yardımcı olabilir:

Veri: Bir amaç için ve belirli bir veri setinden yararlanılarak eğitilmiş bir model, bu amaca uygun olarak mı konuşlandırılmıştır, yoksa yeni bir amaç mı söz konusudur?

Mahremiyet: Veriler toplanırken yurttaşların rızası alınmış ve yurttaşlar, verinin nasıl kullanılacağı hakkında bilgilendirilmiş midir?

Emek süreçleri: Şirket, verilerin etiketlenme sürecinde yararlandığı iş gücü hakkında şeffaf davranmakta mıdır?

Doğruluk iddiaları: Modellerini tanıtmaya çalışan şirketler sık sık “yüzde 95 doğruluk” gibi iddialarda bulunurlar. Haberciler burada daha derine inmelidir. Yüksek skor, yalnızca orijinal verilerin bir örneğinden mi geliyor? Model, gerçek dünyadaki örneklerle kontrol edildi mi? Herhangi bir gerçek dünya doğrulaması olmadığında şirketin iddialarına inanılmamalıdır.

Ölçüt: Şirket, modeli değerlendirmek için hangi ölçütü kullanmaktadır? Kullandığı ölçüt uygun mudur? Doğruluk iddiası, yaşamsal bir konudur. Çünkü yanlış pozitifin mi yoksa yanlış negatifin mi daha kötü olduğuna karar verilmelidir. Örneğin, bir kanser tarama aracında, yanlış pozitif insanların gereksiz bir test yaptırmasına neden olabilirken, yanlış negatif bir tümörün tedavi edilebilir olduğu erken evrede gözden kaçmasına yol açabilir. Bir sanığın iki yıl içinde suç işleme riskini tahmin eden modeller, siyah ve beyaz sanıklar arasında benzer doğruluk oranına sahip olabilir. Ancak algoritmanın siyah sanıklar için beyaz sanıklara göre iki kat daha fazla yanlış pozitif sonuç vermesi adil olmayacaktır.