AI Summary & Key Takeaways
AI InsightThe thematically analyzed findings indicate that algorithms play a double role in decision-making, offering both benefits and challenges, and it is clear that algorithms repeatedly exhibit bias and manipulate users, particularly in position with commercial interests.
📌 3 Key Takeaways
Abstract
The current digital environment is governed by algorithmic technology. While some studies suggest that algorithms unfairly influence human interests and decisions within this digital world, research focusing on algorithm literacy among students and the role of algorithms in decision-making remains relatively scarce. Therefore, this study seeks to reveal students' algorithm literacy to assess their knowledge and experience with algorithms, as well as the influence of algorithms on their decision-making manners. Focus group interviews were conducted, grounded in theories hypothesizing that algorithms are unfair and that the datasets and models applied in algorithmic systems do not provide unbiased representations of reality. A total of 32 communication students participated in this study, sharing their perceptions on the role of algorithms in decision-making. The research also examined students' experiences with algorithm literacy and whether their decisions extend beyond what algorithms offer. The thematically analyzed findings indicate that algorithms play a double role in decision-making, offering both benefits and challenges, and it is clear that algorithms repeatedly exhibit bias and manipulate users, particularly in position with commercial interests. Notably, it was found that students perceived that algorithms can sometimes limit users' choices by prioritising a particular type of content under the influence of adverts and the nature of the media, thereby creating an unfair bias. Therefore, future research should focus on the design and regulation of algorithms to improve their transparency and mitigate the risks of social manipulation.
Özet
Günümüz dijital ortamı algoritma teknolojisi tarafından yönetilmektedir. Bazı çalışmalar, algoritmaların bu dijital dünyada insan çıkarlarını ve kararlarını haksız bir şekilde etkilediğini öne sürerken, öğrenciler arasında algoritma okuryazarlığına ve algoritmaların karar vermedeki rolüne odaklanan araştırmalar nispeten azdır. Bu nedenle, bu çalışma öğrencilerin algoritmalarla ilgili bilgi ve deneyimlerinin yanı sıra algoritmaların karar verme biçimleri üzerindeki rolünü değerlendirmek için algoritma okuryazarlıklarını ortaya çıkarmayı amaçlamaktadır. Çalışmada, algoritmaların adil olmadığı ve algoritmaya dayalı sistemlerde uygulanan veri kümelerinin ve modellerinin gerçekliğin tarafsız temsillerini sağlamadığı hipotezlerinden yola çıkılarak odak grup görüşmeleri gerçekleştirilmiştir. Bu çalışmaya toplam 32 iletişim fakültesi öğrencisi katılmış ve algoritmaların karar verme sürecindeki rolüne ilişkin algılarını aktarmışlardır. Araştırma ayrıca öğrencilerin algoritma okuryazarlığı ile ilgili deneyimlerini ve kararlarının algoritmaların sunduklarının ötesine geçip geçmediğini de incelemiştir. Tematik olarak analiz edilen bulgular, algoritmaların karar vermede hem faydalar hem de zorluklar sunan çifte bir rol oynadığını ve algoritmaların, özellikle tecimsel çıkarlar söz konusu olduğunda, yeniden önyargı sergilediğini ve kullanıcıları manipüle ettiğini göstermektedir. Özellikle, öğrencilerin algoritmaların reklamların ve medyanın doğasının etkisi altında belirli bir içerik türünü önceliklendirerek kullanıcıların seçimlerini sınırlayabileceğini ve böylece haksız bir önyargı yaratabileceğini düşündükleri tespit edilmiştir. Bu nedenle, gelecekteki araştırmalar, şeffaflıklarını artırmak ve sosyal manipülasyon risklerini azaltmak için algoritmaların tasarımına ve düzenlenmesine odaklanmalıdır.