AI Summary & Key Takeaways
AI InsightResults show that ChatGPT and Gemini achieve the highest scores, while DeepSeek ranks lowest, highlighting differences in performance across various evaluation criteria.
📌 3 Key Takeaways
Abstract
This study presents a novel multi-criteria decision-making (MSDM) framework to evaluate generative AI chatbots using the Intuitionistic Fuzzy TOPSIS (IF-TOPSIS) method. Five prominent chatbots-ChatGPT, Claude, Copilot, DeepSeek, and Gemini-are assessed based on expert opinions from academia, industry, and an AI agent, creating a balanced and hybrid human-AI evaluation approach. The inclusion of an AI-based expert introduces methodological innovation by reflecting the evolving role of AI in decision-making. The IF-TOPSIS method effectively manages uncertainty, hesitation, and subjectivity in expert judgments, providing a more robust and nuanced ranking of alternatives. Results show that ChatGPT and Gemini achieve the highest scores, while DeepSeek ranks lowest, highlighting differences in performance across various evaluation criteria. The framework specifically addresses the needs of Turkish academic and industrial research environments, where context-sensitive and transparent evaluations are critical. This study not only advances the methodological integration of AI in expert-based assessments but also offers a practical decision-support model that helps both individuals and institutions select the most appropriate generative AI chatbot for their specific needs.
Özet
Bu çalışma, Intuitionistic Fuzzy TOPSIS (IF-TOPSIS) yöntemi kullanılarak üretici yapay zeka sohbet robotlarının değerlendirilmesine yenilikçi bir çok kriterli karar verme (ÇKKV) çerçevesi sunmaktadır. ChatGPT, Claude, Copilot, DeepSeek ve Gemini; akademi, endüstri ve bir yapay zeka temsilcisinden elde edilen uzman görüşlerine dayanarak değerlendirilmiş ve dengeli, hibrit bir insan–YZ değerlendirme yaklaşımı oluşturulmuştur. Yapay zeka temelli bir uzmanın sürece dahil edilmesi, karar verme süreçlerinde YZ’nin gelişen rolünü yansıtarak metodolojik bir yenilik sağlamaktadır. IF-TOPSIS yöntemi, uzman yargılarındaki belirsizlik, tereddüt ve öznelliği yöneterek daha güvenilir ve ayrıntılı bir sıralama sunmaktadır. Bulgular, ChatGPT ve Gemini’nin en yüksek, DeepSeek’in ise en düşük puanları aldığını ve kriterlere göre performans farklılıklarının belirgin olduğunu göstermektedir. Çerçeve, bağlama duyarlı ve şeffaf değerlendirmelerin önemli olduğu Türkiye’deki akademik ve endüstriyel araştırma ortamlarının gereksinimlerini karşılamaya yöneliktir. Bu çalışma, YZ’nin uzman temelli değerlendirmelere entegrasyonunu ilerletmekte ve kullanıcıların ihtiyaçlarına en uygun üretici YZ sohbet robotunu seçmelerine yardımcı olacak uygulanabilir bir karar destek modeli sunmaktadır.