Yapay Zeka Hızlı Bakış & Çıkarımlar
AI InsightGeçmişteki birçok somut örnek, algoritmalar tarafından beslenen yapay zekâ sistemlerinin dezavantajlı grupları konu alan imgelemelerde yanlı tasvirler sunduğunu göstermektedir.
📌 3 Maddede Bu Makale
Özet
Arka Plan: Günümüzde üretken yapay zekâ araçlarının kullanımındaki yoğun artış, bilgi ekosistemi içerisindeki yapay zekâ tarafından üretilen içeriklerin ivme kazanmasına yol açmıştır. Geçmişteki birçok somut örnek, algoritmalar tarafından beslenen yapay zekâ sistemlerinin dezavantajlı grupları konu alan imgelemelerde yanlı tasvirler sunduğunu göstermektedir. Buradan hareketle dezavantajlı grupların en yoğun popülasyonlarından birisini teşkil eden göçmen nüfusuna yönelik toplumsal tasavvurun oluşumunda, üretken yapay zekâ sistemlerinin eşik bekçiliği rolünü ne şekilde üstleneceği merak konusu olmuştur. Amaç: Çalışma, algoritmik tabanlı üretken yapay zekâ sistemlerinin, dezavantajlı gruplar içerisinde niceliksel bir baskınlığa sahip olan göçmenlere yönelik toplumsal algıların inşasındaki potansiyel etkisini mevcut literatür ve somut örnekleri göz önünde bulundurarak tartışmayı amaçlamaktadır. Yöntem: Çalışma ekseninde kavramsal araştırma konsepti göz önünde bulundurularak, öncül literatür ve somut örnekler ışığında tartışma gerçekleştirilmiştir. Bulgular: Üretken yapay zekâ araçlarının göçmen tasvirlerinde geleneksel medyadan ödünç alınan stereotipleştirme geleneğinin algoritmalara aktarıldığı, göçmen tasvirlerinde özellikle güvenilir olmayan vaziyetler içerisinde Arap, Afrikalı, Latin Amerikalı bireylerin klişeleşmiş görüntülerine yer verildiği tespit edilen birçok araştırmaya kavramsal çerçevede değinilmiştir. Söz konusu kavramsal tartışma neticesinde üretken yapay zekâ sistemlerinin toplumdaki göçmen karşıtlığını beslediği ve göçmen karşıtı aşırı sağcı rejimlerin ivmelenmesine zemin hazırladığı gözlemlenmektedir. Sonuç: Çalışma sonucunda üretken yapay zekâ sistemlerinin, göçmen tasvirlerinde yanlı sonuçlar üreten bir eşik bekçiliği rolü üstlenmesinin toplumsal açıdan belirli riskleri beraberinde getirme potansiyeline sahip olduğu görülmüştür. Söz konusu riskler bağlamında çalışma kapsamında yer verilen deneysel araştırmaların yaygınlaştırılarak bilgi okuryazarlığı noktasında farkındalığın geliştirilmesinin, göçmen ve yapay zekâ kesişimindeki bilgi güzergahını aydınlatacağı düşünülmektedir.
Abstract
Background: The rapid increase in the use of generative AI tools today has led to an acceleration of AI-generated content within the information ecosystem. Many concrete examples from the past show that AI systems, powered by algorithms, present biased portrayals in imagery concerning disadvantaged groups. Therefore, the question arises as to how algorithm-based generative AI systems will act as gatekeepers in shaping societal perceptions of immigrant populations, which constitute the largest quantitative base among disadvantaged groups. Objective: This study aims to discuss the potential impact of algorithm-based generative AI systems on the construction of societal perceptions of immigrants, who constitute the largest segment of disadvantaged groups, considering existing literature and concrete examples. Method: The study is based on a conceptual research approach, and the discussion is conducted in light of prior literature and concrete examples. Finding: Numerous research studies have shown that generative AI tools transfer the tradition of stereotyping borrowed from traditional media into algorithms when depicting migrants. These depictions often include stereotypes of Arab, African, and Latin American races, particularly in unsettling situations. As a result of these findings, generative AI systems are concluded to fuel anti-immigrant sentiment in society and pave the way for the acceleration of anti-immigrant far-right regimes. Conclusion: The study concludes that generative AI systems, in their depictions of migrants, act as gatekeepers producing biased results, potentially posing certain societal risks by undermining cultural diversity. In this context, it is believed that expanding the experimental research included in this study to increase awareness of these risks and improve information literacy will illuminate the information pathway at the intersection of migration and artificial intelligence.