Yapay zeka teknolojilerinin hızla ilerlemesi, bu sistemlerin öğrenme sürecindeki önyargılarının gerçek dünyada nasıl ayrımcı sonuçlara yol açabileceği sorununu da beraberinde getiriyor.
YANLIŞ YÜZ TANIMA: BÜYÜK BİR PROBLEM HALİNE GELİYOR
Örneğin, yapay zeka tabanlı işe alım araçlarının kadınlara karşı önyargılı olabildiği belirlendi. ChatGPT’nin bazen ırkçı ve ayrımcı önyargılar içerebileceği görüldü. Polis, yüz tanıma teknolojisinde meydana gelen hatalar nedeniyle yanıltıcı sonuçlar aldı ve bu durumun çoğunda siyahi bireylerle ilgiliydi.
Son zamanlarda yapılan bir çalışma, otonom araçlarda kullanılan yaya tanıma teknolojisinin, özellikle renkli bireyleri ve çocukları algılama konusunda yetersiz kalabileceğini ortaya koydu. Bu durum, bu teknolojinin yaygınlaşmasıyla daha büyük güvenlik sorunlarına neden olabilir.
İNSANLAR ARASINDA AYRIMCILIK
Insider’ın raporuna göre; İngiltere ve Çin’den araştırmacılar, popüler sekiz yaya algılama sisteminin performansını cinsiyet, yaş ve ırk açısından değerlendirdi. Cinsiyet konusundaki fark minimal iken, sistemlerin koyu tenli yayaları algılama konusunda daha az başarılı oldukları tespit edildi.
Jie Zhang, King’s College London’da görevli bilgisayar bilimcisi ve bu araştırmanın bir parçası olarak, bu tespitlerin etnik azınlıklar için daha büyük tehlikeler oluşturabileceğine dikkat çekti. Elde edilen sonuçlar, mevcut yaya algılama sistemlerinin adaletle ilgili sorunlarına vurgu yaparak, bu önyargıları gidermenin önemini belirtiyor.
YAYGIN ÖNYARGI SORUNU
Bu tespitler, birçok firmanın kullandığı açık kaynaklı yapay zeka sistemlerinde var olan önyargıların bir göstergesi olarak kabul ediliyor. Zhang, bu çalışmanın Tesla gibi firmaların kullandığı özel yazılımları içermediğini, ancak benzer açık kaynaklı yapay zeka temelliydiğini belirtti.
Araştırmacılar, sürücüsüz araç yazılımlarındaki önyargıları ortadan kaldırmak için yasal düzenlemelerin gerekliliğini vurguladı. Çalışma, bireylerin haklarını korumak ve bu konudaki endişeleri ele almak için uygun yasa ve yönetmeliklerin şart olduğunu belirtiyor.