AI Summary & Key Takeaways
AI InsightThat all three platforms, despite different intervention strategies, reproduce the same patterns points to a problem rooted in the structural logic of generation rather than individual model settings; bias traceable in the textual layer before any image is produced offers a new dimension of analysis for auditing generative image models.
📌 3 Key Takeaways
Abstract
Drawing on feminist visual culture critique, this study examines how three text-to-image algorithmic intelligence (Al.I) platforms reproduce gender and perceived ethnic appearance patterns in occupational imagery. Using neutral English prompts with no gender or ethnicity specification, 225 images were generated across 15 occupations via the APIs of OpenAI, Google Gemini, and xAI Grok; images were analyzed through quantitative content analysis, and the accompanying textual data through descriptive analysis. All three platforms generated only images depicting women for the occupations of nurse, teacher, secretary, housekeeper, and social worker, whereas images depicting men predominated for occupations such as pilot, engineer, and CEO. In perceived ethnic appearance, White dominated at 54.2%, and all 15 pilot images were coded “White male”; intersectionally, 65.6% of White-coded images were male and 77.8% of Black-coded images female. The textual data suggest bias is encoded not only in the image but in the generation process: Grok genders-neutral prompts, and Gemini uses “she/her” pronouns in its reasoning text for female-dominated occupations. That all three platforms, despite different intervention strategies, reproduce the same patterns points to a problem rooted in the structural logic of generation rather than individual model settings; bias traceable in the textual layer before any image is produced offers a new dimension of analysis for auditing generative image models.
Özet
Bu araştırma; feminist görsel kültür eleştirisinden hareketle, metinden görsel türeten üç algoritmik zekâ (AZ) platformunun mesleki görsellerde toplumsal cinsiyet ve algılanan etnik görünüm kalıplarını nasıl yeniden ürettiğini incelemektedir. Cinsiyet ya da etnik köken belirtmeyen nötr İngilizce istemlerle (prompt), OpenAI, Google Gemini ve xAI Grok platformlarının görsel üretim uygulama programlama arayüzleri (API) üzerinden 15 meslek kategorisinde 225 görsel üretilmiştir. Elde edilen görseller nicel içerik analiziyle, üretim sürecinde döndürülen metin verileri ise betimsel çözümlemeyle değerlendirilmiştir. Üç platform da hemşire, öğretmen, sekreter, kat hizmetlisi ve sosyal hizmet uzmanı mesleklerinde yalnızca kadın görselleri üretirken, pilot, mühendis ve CEO gibi mesleklerde erkek temsili ağır basmaktadır. Algılanan etnik görünümde “beyaz” kategorisi %54,2 ile baskındır; pilot mesleğinde 15 görselin tamamı “beyaz erkek” olarak kodlanmış, kesişimsel dağılımda beyaz görsellerin %65,6’sı erkek, siyah görsellerin %77,8’i kadındır. Metin verileri; önyargının yalnızca görsel çıktı düzeyinde değil, üretim sürecinin kendisinde de kodlandığını göstermektedir. Örneğin, Grok nötr promptları doğrudan cinsiyetlendirirken, Gemini, kadın-yoğun mesleklerdeki ara metinsel çıktısında (reasoning text) “she/her” zamirlerini tercih etmektedir. Müdahale stratejileri farklı olan üç platformun da benzer kalıpları üretmesi, sorunun bireysel model ayarlarından ziyade üretim mantığının yapısıyla ilgili olduğuna işaret etmektedir. Önyargının henüz görsel üretilmeden önce metin katmanında izlenebilmesi ise algoritmik görsel üretimin denetimi açısından yeni bir inceleme düzlemi sunmaktadır.