Euronews’de yayınlanan bir habere göre, son yıllarda yapay zekâ (YZ) modellerinin yaygın kullanımına rağmen, bu araçların toplumsal cinsiyet kalıplarını yeniden ürettiği görülüyor. Avustralya’daki Flinders Üniversitesi tarafından yapılan bir araştırma, özellikle tıp alanında kullanılan YZ algoritmalarının hemşireleri genellikle kadın, doktorları ise erkek olarak varsaydığını ortaya koydu. Bu araştırmada, popüler yapay zekâ araçları olan ChatGPT, Google'ın Gemini ve Meta'nın LLaMA algoritmalarına yaklaşık 50.000 farklı senaryo gönderildi. Sonuçlar, bu algoritmaların özellikle tıpta yerleşik olan cinsiyet ön yargılarını nasıl yeniden ürettiğini gösterdi.

Yapay zekâ ön yargılarla yüklü

Çalışmaya göre, yapay zekâ modelleri hemşirelerin yüzde 98’ini kadın olarak tanımlarken, doktorların çoğunluğunu erkek olarak betimledi. Sağlık çalışanlarının mesleki kıdemlerine veya kişilik özelliklerine bakılmaksızın, modeller bu varsayımları yapmaya devam ediyor. Özellikle cerrahlar ve doktorlar arasında kadın temsili modellerde yüzde 50 ila yüzde 84 arasında değişiklik gösterdi. İlginç bir şekilde, vicdanlı, açık fikirli ya da anlayışlı doktorlar daha çok kadın olarak betimlenirken, kibirli ya da öfkeli olarak tanımlanan doktorlar genellikle erkek olarak belirtildi. Bu da yapay zekânın mesleki cinsiyetlendirme eğiliminde olduğunu gösteriyor​. 

Ön yargılar hastaları da kapsıyor 

Yapay zekâ araçlarının toplumsal cinsiyet rollerine yönelik yerleşik sosyal normları pekiştirdiği, bu çalışmayla bir kez daha gözler önüne seriliyor. Kadın doktorlar genellikle erkek meslektaşlarına göre daha az kıdemli ya da farklı uzmanlık alanlarında gösterilirken, kadın anestezi uzmanları genellikle pediatri veya doğum uzmanı olarak tanımlanıyor. Erkekler ise kardiyolog olarak tasvir ediliyor. Saxena’nın araştırma ekibi, yapay zekâ araçlarından anestezi bölüm başkanı resmi istediğinde neredeyse tüm sonuçlar erkek çıktı​. Bu ön yargıların yalnızca sağlık çalışanları için değil aynı zamanda hasta bakımı üzerinde de ciddi etkileri olabilir. Başka bir çalışmada, yapay zekâ modellerinin tıbbi teşhislerde ırk ve cinsiyet kalıplarını sürdürebileceği ortaya çıktı. Yapay zekâ modellerinin hastaların cinsiyet ve ırkına göre farklı teşhisler ürettiği gözlemlendi​.

Cinsiyet ön yargıları nasıl aşılacak?

Bu cinsiyet ön yargılarının üstesinden gelmek için, yapay zekâ modellerinin eğitim süreçlerinde büyük değişiklikler yapılması gerekiyor…

Daha çeşitli veriler kullanmak: YZ modelleri, internetten toplanan geniş veri kümeleriyle eğitiliyor, bu da toplumdaki ön yargıları doğrudan yansıtıyor. Bu nedenle, eğitim verilerinin daha dengeli ve çeşitli olması sağlanmalı. Cinsiyet, ırk, meslek gibi konularda daha kapsayıcı veri setleri kullanılmalı.

Ön yargı tespit ve düzeltme mekanizmaları: Yapay zekâ geliştiricileri, modellerin karar süreçlerinde cinsiyet ve ırk ön yargılarını tespit edebilecek analiz araçlarını kullanmalı ve bu ön yargıları gidermek için algoritmalarını güncellemeli. Bu süreç, yapay zekânın sürekli olarak izlenmesini ve hata yapması durumunda düzeltilmesini içeriyor​.

Eğitimde eşitlik: YZ sistemlerini eğitirken, modellerin cinsiyetçi kalıplara düşmesini önlemek için programların açıkça cinsiyetsiz ya da eşitlikçi veriyle eğitilmesi gerekli. Örneğin hem kadın hem erkek doktorlar için benzer niteliklerle donatılmış hikâyeler üretilmeli.​

Daha geniş bir inceleme ve düzenleme süreci: YZ modellerinin tıbbi karar verme süreçlerinde kullanılmadan önce daha kapsamlı bir inceleme sürecine tabi tutulması gerekir. Yapay zekâ araçları, topluma entegre edilmeden önce olası ön yargıları belirleyen ve düzenleyen bir denetimden geçirilmeli​.

Eğitim ve farkındalık: Geliştiricilerin, YZ kullanımında toplumsal cinsiyet eşitliğine yönelik farkındalığı artırması gerekiyor. Hem YZ geliştiricileri hem de tıp uzmanları, bu ön yargılar hakkında eğitim alarak daha adil ve kapsayıcı sistemler inşa etmeye odaklanmalı​.

Kadınların yapay zekâ geliştirme sürecine daha çok dahil edilmesi: Yapay zekâ modellerinin eğitiminde ve geliştirilmesinde daha fazla kadının yer alması, bu ön yargıları azaltmaya yardımcı olabilir. Kadınların teknoloji alanındaki temsiliyetinin artırılması, farklı bakış açılarını ve deneyimleri yapay zekâ algoritmalarına entegre etme fırsatı sunar. Bu nedenle, teknoloji ve yapay zekâ sektöründe kadınların daha fazla yer alması teşvik edilmeli, cinsiyet dengesi sağlanmalı.