Özerklik

YZ, çalışanların yerini almayı hedefleyen tarzda değil, çalışanlara destek olacak ve onları güçlendirebilecek şekilde geliştirilmeli ve uygulanmalıdır.

LLM'lerle beraber (Large language model - Büyük Dil Modeli) YZ uygulamaları sanat (!) eserleri üretmeye başladılar. Harika resimler, verilen herhangi bir konu hakkında yazılan şiir ve romanlar kamuoyunu etkiledi. Ancak fantezi ve bilim kurgu yazarı Joanna Maciejewska'nın bir Twitter mesajında belirttiği gibi YZ yanlış yönde ilerliyor:

"Sanat ve yazı yazabilmem için yapay zekanın çamaşırlarımı ve bulaşıklarımı yıkamasını istiyorum, ben çamaşırlarımı ve bulaşıklarımı yıkayabileyim diye yapay zekanın sanatımı ve yazımı yapmasını değil."

Teknoloji şirketleri de dahil olmak üzere birçok aktör YZ'nin hedefinin insanların yerini almak değil, insanları güçlendirmek olması gerektiğini savunuyor. Scneiderman'ın İnsan Merkezli YZ adlı çalışmasında savunduğu gibi insan yeteneklerini güçlendirmek değerli bir hedeftir:

Teleskoplar ve mikroskoplar, insan yeteneklerini artıran insan gözünün uzantılarıdır. Hesap makineleri, dijital kütüphaneler ve e-posta, kullanıcıların hiçbir insanın yardım almadan yapamayacağı şeyleri yapmasını sağlar. İnsanları güçlendiren daha güçlü artırma ve güçlendirme araçlarına ihtiyacımız var. Bu yaklaşımlardan biri, sanatçılara, müzisyenlere, şairlere, oyun yazarlarına, fotoğrafçılara ve kameramanlara alternatifleri keşfetmeleri ve yaratıcı bir şekilde yeni, ilginç ve anlamlı bir şeyler üretmeleri için daha fazla esneklik sağlayan yaratıcılık destek araçlarının geliştirilmesidir. Kameralar ve müzik aletleri insanların yapabileceklerinin sınırlarını genişletmiştir, ancak insan hala yaratıcı kaynağın itici gücüdür. Yeni cihazların bu geleneği devam ettirmesi muhtemeldir.

Fakat, özellikle LLM'lerle, beraber tam tersi yönde ilerlediğimiz görülüyor. Daha birkaç yıl önce, YZ tarafından üretilen görüntü ve müzik için fikri mülkiyet hakkı tartışması gündemdeyken şimdi sanatçılar ürünlerinin kendilerinden izinsiz olarak YZ sistemlerinin eğitiminde kullanıldığını ve haklarının ihlal edildiğini savunuyorlar.

Bunun yanında sık sık dile getirilen insan performansını yükselten, artıran, güçlendiren ve geliştiren ürün ve hizmetler yaratma hedefi gerçek uygulamalarla çelişmektedir. Bazı görevleri insanlardan daha iyi yapan makineler veya kendi başına çalışan akıllı otonom sistemlerin yer aldığı YZ atılımları coşkuyla karşılanmaktadır. Aslında robotların insanların işini ellerinden almasından insan türüne son vermesine kadar uzanan felaket senaryoları YZ'nin insani güçlendiren değil onun yerini alan bir vizyon etrafında şekillendirilmesinin bir sonucudur.

Bu bağlamda, YZ'nin günümüzde izlediği yolu gücü elinde tutan büyük teknoloji şirketlerinin vizyonundan bağımsız ele alamayız. Çalışanla­rın yeteneklerini tamamlayıcı niteliğe sahip teknolojiler yerine onların yerini almayı hedefleyen teknolojilere yönelmek bir zorunluluk değil, politik bir tercihtir. Son yıllarda teknolojik uygulamaların eşitsizliği artıran bir rol üstlenmiş olması daha çok büyük şirketlerin ve iktidar sahiplerinin bir tercihidir. Şu anki eğilim tamamen işsiz bir gelecekten çok insanların daha düşük ücretlerle çalıştığı ve yoksullaştığı bir gelecek yönündedir.

Ancak farklı bir vizyonla teknoloji çalışanların mevcut işlerindeki üretkenliğini artırmak, yeni işler yaratmak veya insanların karar verme süreçlerini iyileştirmek için de kullanılabilir. Bu da ancak insanoğlunu tamamlayan ve yetkinleştiren teknolojilere daha çok eğilmeyi teşvik eden teknoloji politikalarıyla gerçekleştirilebilecek bir hedeftir.

Ayrıca YZ araçlarının insanın yerini alma hedefiyle geliştirilmesi, sunulması ve haklarındaki abartılı iddialar insanların yeteneklerini güçlendirmek bir yana tam tersi sonuçlar ortaya çıkabilmektedir.  Belirsizliği azaltmak ve kararları basitleştirmek için tasarlanan YZ araçları, bilişsel bir kısayol olan otomasyon ön yargısına neden olabilmektedir. Çünkü YZ sistemleri çalışırken insanlar dikkatlerini ve gözetimlerini azaltma eğilimindedir.

İnsanlar YZ sistemlerin insanlardan daha doğru, tutarlı ve güvenilir olduğunu varsayabilmekte ve bu önerilere gereğinden fazla itibar edebilmektedir. Ancak YZ kusursuz değildir. Irk, cinsiyet vb ön yargılar içerir. Bu sistemlerin kararlarına karşı gözü kapalı güven ayrımcı, yanlış ve potansiyel olarak zararlı kararlara neden olabildiği gibi bir süre sonra insanların karar verme yetilerini de zayıflatır. İnsanlar, kendileri zaman zaman yanılabilseler bile  bilgisayarların hep doğruyu söylediği düşüncesine kapılabilirler.

Örneğin radyologlar arasında yapılan bir çalışmanın gösterdiği gibi YZ hakkındaki abartılı iddialar insanların kendi kararlarına kuşkuyla yaklaşmasına neden olabilmektedir. Söz konusu çalışmada araştırmacılar hangi mamogramlarda kanser olduğunu önceden bilmektedir ve YZ’yi taramaların bir alt kümesi için yanlış cevap verecek şekilde ayarlarlar. YZ yanlış bir sonuç verdiğinde, deneyimsiz ve orta derecede deneyimli radyologların kanser tespit doğruluklarının yaklaşık %80'den yaklaşık %22'ye düştüğü görülmüştür. Çok deneyimli radyologların doğruluk oranı ise yaklaşık %80'den %45'e düşmüştür.

Yurttaşların YZ uygulamalarının her zaman gerçekten çok doğru ve tutarlı yanıtlar üretemediğinin, çeşitli ön yargılar içerebildiğinin ve kimi zaman şirketlerin tam anlamıyla test edilmemiş teknolojileri piyasaya sürdüğünün farkında olabilmesi için YZ okuryazarlıkları güçlendirilmelidir.

Kaynakça