Sevgili Okuyucularımız,

Üretken yapay zekâ (ÜYZ), insan yaratıcılığını destekleyen, dili, görüntüyü, sesi ve bilgiyi benzeri görülmemiş bir hızda üretebilen bir teknoloji olarak hayatımıza girdi. Hızlı üretim kapasitesi, çoğu zaman tarafsızlıkla eş anlamlıymış gibi pazarlanıyor. Gerçekleri duymak rahatsız edici olsada ÜYZ tarafsız değildir, aksine mevcut toplumsal önyargıları yeniden üretir ve çoğu zaman onları daha da keskinleştirir.

Bloomberg’in 2023 tarihli kapsamlı araştırması tam olarak bunu ortaya koyuyor. İnsanlar önyargılıdır, ÜYZ bu önyargıları sistematik ve ölçeklenebilir hale getirerek daha da kötüleştirir. Bu durum, teknik bir model hatası değil, doğrudan yönetişim eksikliği ve tasarım tercihlerinin sonucudur.

Üretken Yapay Zekâ Neyi Yanlış Yapıyor?

1. Önyargı Nereden Geliyor?

Bloomberg’in görsel üretim modelleri (özellikle Stable Diffusion tabanlı sistemler) üzerinde yaptığı analizlerde binlerce ÜYZ ile üretilmiş görsel incelendi. Bulgular son derece çarpıcıydı:

• “CEO”, “yargıç”, “doktor” gibi yüksek statülü meslekler sorulduğunda, görüntülerin ezici çoğunluğu beyaz erkeklerden oluşuyordu.
• “Temizlik görevlisi”, “mahkûm”, “işsiz” gibi ifadelerde ise orantısız biçimde koyu tenli ve kadın figürler üretiliyordu.
• Bu dağılımlar, gerçek dünyadaki istatistiklerle karşılaştırıldığında yalnızca yansıtma değil, abartma içeriyordu.

ÜYZ  toplumsal önyargıları olduğu gibi kopyalamaz, onları istatistiksel olarak yoğunlaştırır. Bu da üretken yapay zekâyı, masum bir araç olmaktan çıkarıp algı üreten bir medya aktörüne dönüştürür. Nitekim ImageNet gibi yaygın kullanılan görsel veri setlerinde yer alan içeriklerin büyük bölümü Amerika ve Avrupa kaynaklıdır. Eğitim verisindeki bu coğrafi ve kültürel dengesizlik, üretken yapay zekâ araçlarının ürettiği çıktıları kaçınılmaz olarak etkilemekte, temsil çeşitliliğinin sınırlı olması, önyargıların sistematik biçimde yeniden üretilmesine zemin hazırlamaktadır.

2. Görsel Önyargı Neden Daha Tehlikelidir?

Metin tabanlı önyargılar fark edilebilir, ancak görsel önyargılar bilinçaltına işler. Bloomberg’in altını çizdiği temel risk şudur:

• Görseller gerçeklik hissi yaratır.
• ÜYZ çıktıları nesnel ve makine ürünü olduğu için daha az sorgulanır.
• Eğitim materyallerinde, medyada ve kurumsal sunumlarda kullanıldığında, toplumsal normları yeniden tanımlar.

Bu durum, MIT Media Lab’in Gender Shades çalışmasıyla da örtüşür. Bu araştırma, yüz tanıma sistemlerinin koyu tenli kadınlarda %30’un üzerinde hata yaparken, açık tenli erkeklerde %1’in altında hata yaptığını göstermiştir. Yani sorun sadece temsil değil, kimin hata bedelini ödediğidir.

3. Veri Tarafsızdır Yanılgısı

ÜYZ savunucularının sıkça dile getirdiği bir argüman vardır:

• Model önyargılı değil, veri önyargılı.

Bu ifade eksiktir.

Obermeyer ve arkadaşlarının Science dergisinde yayımlanan (2019) çalışması, sağlık algoritmalarının siyah hastaların risklerini sistematik olarak daha düşük hesapladığını ortaya koymuştur. Burada sorun yalnızca veri değil, hangi hedef fonksiyonun seçildiği, hangi değişkenlerin optimize edildiği ve hangi grupların normal kabul edildiğidir.

Üretken yapay zekâda da benzer bir durum söz konusudur:

• İnternetten toplanan veriler,
• Tarihsel eşitsizlikleri,
• Medyadaki stereotipleri,
• Küresel Güney’in görünmezliğini

modelin doğal gerçekliği haline getirir. Bu nedenle önyargı, etik bir yan etki değil, tasarımsal bir sonuçtur.

Yönetişim Olmadan Üretkenlik

Eğer üretken yapay zekâ sistemleri;

• kimler için daha sık hata yaptığı,
• kimi sistematik olarak dışladığı,
• hangi grupları görünmez kıldığı

izlenmeden devreye alınırsa, Jeremy Bentham’ın Panoptikon’u dijital bir biçimde yeniden inşa edilmiş olur. Bu kez gardiyan bir insan değil, istatistiksel bir modeldir.

Bloomberg’in çalışmasının en önemli uyarısı şudur:

ÜYZ çıktıları, karar destek sistemlerine girdi oldukça, önyargı bireysel olmaktan çıkar, kurumsal hale gelir.

ÜYZ Yönetişimi için Kritik Noktalar

Bias ölçülmeyen yerde yok olmaz. ÜYZ sistemleri için grup bazlı çıktı analizleri zorunlu hale getirilmelidir.

1. Görsel üretim, yüksek riskli kullanım alanıdır. Eğitim, medya, kamu iletişimi gibi alanlarda kullanılan ÜYZ görselleri için ek denetim gerekir.
2. Prompt düzeltmek çözüm değildir. Sorun kullanıcıdan değil, modelin öğrenme dağılımından kaynaklanır.
3. Şeffaflık tek başına yeterli değildir. Model önyargılı olabilir demek değil, nerede, kime karşı ve ne kadar önyargılı olduğunu açıklamak gerekir.
4. Yönetişim yoksa, üretkenlik eşitsizlik üretir.

Sonsöz:

Bu yanlılık kimin hayatını etkiliyor ve kim hesap veriyor? Bloomberg’in verileri, MIT ve Science literatürüyle birlikte okunduğunda ortaya çıkan tablo  ÜYZ’nin, doğru yönetişim olmadan kullanıldığında toplumsal eşitsizlikleri hızlandıran bir çarpan haline geldiğini gösterir.

Teknoloji tarafsız değildir, ama onu taraflı kılan şey, sessizliktir.

Kaynaklar

1. Bloomberg (2023): Humans Are Biased. Generative AI Is Even Worse
   https://www.bloomberg.com/graphics/2023-generative-ai-bias/
2. Buolamwini, J. & Gebru, T. (2018): Gender Shades, MIT Media Lab https://www.media.mit.edu/projects/gender-shades/overview/
3. Obermeyer, Z. et al. (2019): Dissecting racial bias in health algorithms, Science https://www.science.org/doi/10.1126/science.aax2342

Hukuki Uyarı:

Bu içerik genel bilgilendirme amaçlıdır ve hiçbir şekilde yatırım, hukuki veyamesleki tavsiye niteliği taşımaz. Yazıda geçen marka isimleri ilgili şirketlerin tescilli markalarıdır ve yalnızca açıklayıcı amaçlarla kullanılmıştır. Herhangi bir ortaklık, sponsorluk, reklam veya ticari ilişki bulunmamaktadır. İçerik tarafımca oluşturulmuş olup, yazılı izin olmaksızın ticari amaçlı kullanılamaz. Harici linkler yalnızca bilgilendirme içindir ve bu sitelerin içeriğinden sorumlu değiliz.

Görseller yapay zeka ile oluşturulmuş olup yalnızca içeriği destekleme amaçlıdır.

#AIGovernance #OECD #MontrealDeclaration #SocialContract #GlobalPrivacy #YapayZeka #DijitalEtik #TeknolojiPolitikaları #Eşitsizlik #İşinGeleceği #reklamdeğil