Sevgili Okuyucularımız,

Süreçleri otomatikleştirmeye çalışan teknolojilerin kullanıldığı uygulamalarda her yeni algoritmanın, insanlığı daha aydınlık bir geleceğe taşıyan kaçınılmaz bir ilerleme olduğu anlatılır. Ancak gerçek pekte öyle değildir, üretken yapay zeka (ÜYZ) eğitildiği veriler nedeniyle kendi başına tarafsız değildir. Bir algoritma, siyahi hastaların sağlık risklerini beyaz hastalara göre daha düşük hesapladığında (2019 Science dergisi çalışmasına göre 200 milyondan fazla Amerikalı hasta etkilendi), ya da kadın adayları teknik pozisyonlar için otomatik olarak elediğinde (Amazon’un 2018’de durdurmak zorunda kaldığı işe alım algoritması gibi) veya düşük gelirli mahallelerdeki insanlara kredi imkanlarını kapatıldığında, bu uygulamaların sonuçları yazılım hatası değil, yönetişim krizidir. 2020’de Hollanda’da sosyal yardım algoritması 26.000 aileyi haksız yere dolandırıcılıkla suçladığında, algoritma hatalarının nelere mal olabileceğini acı bir şekilde gördük. Aile ve çocuk gibi hassas konularda bu algoritmaların doğru çalışmama durumlarının sosyal etkileri maalesef daha yıkıcı oluyor.

Türkiye’de de benzer riskleri görebiliriz, e-devlet sistemleri, kredi skorlama algoritmaları ve kamu ihale süreçlerinde yapay zeka kullanımı artarken, şeffaflık mekanizmaları ise henüz yetersiz. McKinsey’in 2023 raporuna göre, dünya genelinde şirketlerin %78’i AI kullanıyor ancak bunların sadece %21’i algoritma yanlılığını aktif olarak izliyor.

Özellikle dezavantajlı gruplar ve engelliler için ÜYZ yönetişimi bir tercih değil, bir hayatta kalma meselesidir. Tıpkı 19. yüzyıldaki dokuma tezgâhlarının sadece verimlilik değil, aynı zamanda yeni bir güç dengesi getirmesi gibi, bugünkü algoritmalar da kontrolü elinde tutanların niyetlerini ve üzerine inşa edildiği ilkeleri yansıtan bir aynadır. Küresel ölçekte kabul görmüş dört devasa çerçeve üzerinden bu dijital panoptikon riskine karşı kurulan barikatları inceleyeceğiz.

Küresel Mutabakatın Rotası

Geçmiş bize teknolojinin yönünün toplumsal tercihlerle belirlendiğini bir önceki yazımda da bahsettiğim şekilde gösterdi. Bugün de ÜYZ’nin rotasını belirlemek ve teknolojinin eşitsizlikleri derinleştirmesini engellemek için masada dört ana yaklaşım var:

OECD/G20 İlkeleri: 2019’da 50’den fazla ülke tarafından onaylanan bu çerçeve, ilk küresel politika setidir. Odak noktası, şeffaflık, hesap verebilirlik ve insan merkezli değerlerle kapsayıcı büyümeyi sağlamaktır. Türkiye de bu ilkeleri onaylamış olmakla birlikte, OECD’nin son bulguları ülkelerin sağlamlık ve güvenlik konularında henüz yeterli somut adımı atmadığını gösteriyor. Örneğin, Avrupa Birliği (AB) AI Act yürürlüğe girerken, birçok G20 ülkesi hala bağlayıcı düzenlemelerden uzaktır.

Montreal Deklarasyonu (2018): Akademik ve etik bir temelle yükselen bu beyanname, ÜYZ’nin tüm canlıların refahını artırması gerektiğini savunur. Özerkliğe saygı, dayanışma ve özellikle eşitlik/çeşitlilik gibi kavramları merkeze alarak teknolojinin dezavantajlı gruplara zarar vermemesini hedefler. Kanada’nın Montreal şehrinde geliştirilen bu çerçeve, 100’den fazla akademisyen ve sivil toplum örgütünün katkısıyla şekillendi ve özellikle algoritmik ayrımcılığa karşı güçlü bir duruş sergiliyor.

Social Contract (2021): Devlet, şirket ve vatandaş arasında yeni bir toplumsal sözleşme çağrısı yapar. ÜYZ’nin yarattığı güç asimetrisini dengelemek ve yüz tanıma gibi özellikle azınlıkları hedef alan tartışmalı uygulamaları demokratik gözetimle sınırlandırmak temel hedefidir. San Francisco ve Boston gibi şehirlerin kamu kurumlarında yüz tanıma yasağı getirmesi, bu yaklaşımın somut yansımalarından biridir. ÜYZ’nin yüz tanımada çok iyi olması, bu teknolojiyi kullanmamız gerekmesini şart koşmaz.

Global Privacy Assembly (GPA): 130’dan fazla veri koruma otoritesini temsil eden bu birlik, meselenin mutfağındaki teknik uygulamalara odaklanır. Soyut ilkeleri, gizlilik değerlendirmeleri, hesap verebilirlik metrikleri ve yüksek riskli sistemler için koruma tedbirleri gibi somut standartlara dönüştürür. İrlanda’nın Meta’ya 1.2 milyar Euro, AB GDPR çerçevesinde Amazon’a 746 milyon Euro ceza kesmesi, bu çerçevenin caydırıcılığını gösteriyor. Gelecekte de bu soyut ilkelerin korunması üzerine çalışmamız gerekiyor.

Otomasyonun Karanlık Yüzü mü

Eğer ÜYZ yönetişimi sadece kağıt üzerinde kalırsa, Jeremy Bentham’ın 1780’lerde tasarladığı ve 1791’de detaylandırdığı dairesel hapishane tasarımı Panoptikon’un modern versiyonuyla karşılaşabiliriz. Bu sistemde insanlar, her saniye izlendiklerini düşünerek kendi davranışlarını denetlemeye zorlanır, bu da düşük maliyetli ama baskıcı bir verimlilik sağlar. Nitekim Amazon depolarında çalışanların her hareketini izleyen algoritmalar, işçilerin tuvalet molalarını bile kısıtladığı için eleştirilmişti. Son zamanlarda duyduğum bir uygulamada çalışanların masalarının üzerine ısı sensörleri yerleştirerek koltuklarının ne kadar soğuk kaldığını ölçmek istemişler.

ÜYZ yönetişim uzmanları olarak bugün kendimize üç kritik soru sormalıyız:

Tamamlama mı, Yok Etme mi?

ÜYZ, insanların daha karmaşık sorunları çözmesini mi sağlayacak, yoksa sadece maliyet düşürmek için insanı devreden mi çıkaracak? MIT ekonomistleri Daron Acemoğlu ve Simon Johnson’a göre, son 40 yılda otomasyon teknolojileri ABD’de orta sınıf işlerinin %50-70’ini yok etti, ancak bunların yerini alan yeni görevler aynı ücret düzeyinde olmadı.

Gözetim mi, İşbirliği mi?

İş yerlerinde her saniyeyi denetleyen dijital bir gardiyan mı, yoksa iş güvenliğini artıran bir ortak mı kurguluyoruz? İnşaat sektöründe ÜYZ destekli güvenlik sistemleri kazaları %40 azaltırken, çağrı merkezlerinde ÜYZ gözetimi çalışan stresini %60 artırdı (Stanford 2022).

Piyasa mı, Düzenleme mi?

Veri gizliliği ve özellikle dar gelirlilerin teknolojiye erişimi gibi konularda piyasanın insafına mı güveneceğiz, yoksa düzenleyici müdahale mi şart? Clearview AI’ın milyarlarca yüz görüntüsünü izinsiz toplaması ve satması, piyasa düzenlemesinin tek başına yetersiz kaldığını gösterdi.

Politika Yapıcının Alet Çantasında Bu Hafta

Teknolojiyi ortak refaha yönlendirmek için sadece mühendislere değil, güçlü politikalara ve yasalara ihtiyacımız var:

Şeffaflık – Somut Adım: Yüksek riskli ÜYZ sistemleri (işe alım, kredi skorlama, ceza adaleti) için zorunlu Algoritma Etki Değerlendirme Raporları (AEDR) getirilmeli. AB AI Act bu yönde öncü adımlar atıyor; Türkiye’nin de benzer bir düzenleme için çalışma başlatması kritik. AEDR’ler kamuya açık olmalı ve hangi verilerin, hangi amaçla, nasıl kullanıldığını net göstermeli.

Hesap Verebilirlik – Somut Adım: GPA’nın önerdiği gibi, her AI sistemi için benzersiz bir ÜYZ Ajan Kimliği (Agent ID) ve sorumlu kişi/kurum ataması yapılmalı. Sistemin zararı durumunda kimin, hangi kapsamda sorumlu olduğu önceden belirlenmiş olmalı. İngiltere’nin 2023’te başlattığı AI Responsibility Framework bu yönde iyi bir örnek, her AI sistemi için bir accountability owner tanımlanıyor.

Yönlendirme – Somut Adım: Devlet teşviklerinin sadece otomasyona değil, dezavantajlı grupları da kapsayan yeni insan görevleri ve iş kolları yaratmaya odaklanması şart. Örneğin, ÜYZ yatırımlarının en az %30’unun insan-ÜYZ işbirliği projelerine (örn: engelliler için erişilebilirlik teknolojileri, yaşlı bakımında AI destekli sistemler) yönlendirilmesi zorunlu tutulabilir. Singapur’un SkillsFuture programı, çalışanların ÜYZ çağına adaptasyonu için devlet desteği sağlayarak işsizlik riskini azalttı.

Toplumsal Katılım – Somut Adım: AI politikalarının oluşturulmasında etkilenen toplulukların (azınlıklar, engelliler, işçi sendikaları) aktif temsiliyeti sağlanmalı. “Bizi ilgilendiren hiçbir şey bizim katılımımız olmadan yapılmamalı” prensibi, ÜYZ yönetişiminde de geçerli olmalı.

Sonsöz

Acemoğlu ve Johnson’ın 2023 tarihli “Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity” kitabında hatırlattığı gibi, “Teknolojinin yönü ve kimin fayda sağlayacağı, onu kontrol edenlerin tercihlerine bağlıdır”. Eğer yapay zekayı sadece bir maliyet kalemi olarak görürsek, tarih tekerrür edecek ve 19. yüzyıl dokumacılarının yaşadığı sefalet dijital dünyada yankılanacaktır. Ancak onu insan zekasını artıracak bir kaldıraç olarak kurgularsak, işte o zaman gerçek ilerlemeden bahsedebiliriz.

İstatistikler ürkütücü gözüküyor. Dünya Ekonomik Forumu’na göre 2025 yılına kadar 85 milyon iş AI nedeniyle kaybolabilir, ancak aynı zamanda 97 milyon yeni iş de yaratılabilir. Hangi senaryonun gerçekleşeceği, bugün aldığımız kararlara bağlı.

Aynaya bakıp “En verimli kim?” diye sormak yerine, “Bu verimlilik kimin sofrasına ekmek koyuyor?” diye sormaya başladığımızda hikâyedeki son değişebilir.

Kaynaklar:

OECD/G20 AI Principles (2019): https://oecd.ai/en/ai-principles

Montreal Declaration for Responsible AI (2018): https://www.montrealdeclaration-responsibleai.com/

Social Contract for the Age of AI (2021): https://www.sussex.ac.uk/research/centres/sussex-humanities-lab/projects/social-contract-for-the-ai-age

Global Privacy Assembly (GPA) AI Resolutions: https://globalprivacyassembly.org/

Acemoglu, D. & Johnson, S. (2023). Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity.

Obermeyer, Z., et al. (2019). “Dissecting racial bias in an algorithm used to manage the health of populations.” Science, 366(6464), 447-453.

World Economic Forum (2020). “The Future of Jobs Report 2020.”

McKinsey & Company (2023). “The State of AI in 2023: Generative AI’s breakout year.”

Hukuki Uyarı:

Bu içerik genel bilgilendirme amaçlıdır ve hiçbir şekilde yatırım, hukuki veya mesleki tavsiye niteliği taşımaz. Yazıda geçen marka isimleri ilgili şirketlerin tescilli markalarıdır ve yalnızca açıklayıcı amaçlarla kullanılmıştır. Herhangi bir ortaklık, sponsorluk, reklam veya ticari ilişki bulunmamaktadır. İçerik tarafımca oluşturulmuş olup, yazılı izin olmaksızın ticari amaçlı kullanılamaz. Harici linkler yalnızca bilgilendirme içindir ve bu sitelerin içeriğinden sorumlu değiliz.
Görseller yapay zeka ile oluşturulmuş olup yalnızca içeriği destekleme amaçlıdır.

#AIGovernance #OECD #MontrealDeclaration #SocialContract #GlobalPrivacy #DaronAcemoglu #YapayZeka #DijitalEtik #TeknolojiPolitikaları #Eşitsizlik #İşinGeleceği