Yapay Zeka Hızlı Bakış & Çıkarımlar
AI InsightBu çalışma kapsamında oluşturulan model analiz edilip yakın anlamlı kelimeler incelendiğinde oldukça başarılı performans gösterdiği tespit edilmiştir.
📌 3 Maddede Bu Makale
Özet
Günümüzde büyük veri alanında meydana gelen gelişmelerle birlikte günlük işlenebilir durumda olan veri miktarı oldukça büyük boyutlara ulaşmıştır. Bu verilerin çok büyük bir kısmının metin (text) verilerinden oluşması, metin işleme alanında yapılan çalışmaları oldukça önemli ve popüler bir hale getirmiştir. Ancak bu alanda yapılan çalışmalar incelendiğinde başta İngilizce olmak üzere birçok dünya diline yönelik çeşitli çalışmalar yapılırken, Türkçeye özgü yapılan çalışmaların istenilen sayıda olmadığı görülmüştür. Bu nedenle bu çalışma için, python ortamı kütüphanelerinden biri olan Beautiful Soup kütüphanesi kullanılarak Türkçe metinlerden oluşan büyük bir derlem oluşturulmuştur. Bu çalışmada, kelimeleri vektör uzayında her bir kelimenin bir vektörle temsil edildiği yeni bir yaklaşım olan Word2Vec modeli algoritmalarından CBOW ve Skip-Gram algoritmaları ile Glove modeli kullanılmıştır. Oluşturulan derlem üzerinde Word2Vec yöntemi ile Türkçe kelimelerden oluşan ve bu kelimeler arasındaki anlamsal ilişkileri tespit etmeye çalışan bir model geliştirilmiş ve diğer modeller ile başarımı ve eğitim süreleri kıyaslanmıştır. Ayrıca çalışmanın bir diğer katkısı ise modelin performansını artırmak için Türkçe için etkisiz kelimeler listesi oluşturulmasıdır. Geliştirilen bu model ile özellikle Türkçe metin sınıflandırma problemlerinde daha yüksek bir sınıflandırma başarımının yakalanması hedeflenmektedir. Bu çalışma kapsamında oluşturulan model analiz edilip yakın anlamlı kelimeler incelendiğinde oldukça başarılı performans gösterdiği tespit edilmiştir. Veriseti ve kelime vektörleri Türkçe çalışmalara katkı sağlamak için erişime açık olarak paylaşılacaktır.
Abstract
Nowadays, the amount of data that can be processed daily has reached quite big dimensions with the developments in the big data. The fact that a large part of this data consists of text data has made the studies in the field of text processing very important and popular. However, when the studies in this area are examined, it has been observed that while various studies are carried out for many World languages, especially English, there are no desired number of studies conducted in Turkish. Therefore, a large corpus of Turkish texts was created using the Beautiful Soup library, one of the python environment libraries. In this study, CBOW and Skip-Gram algorithms from Word2Vec model algorithms and Glove model were used where each word is represented with a vector in the vector space. In this study, a model which consists of Word2Vec method and Turkish words and tries to detect the semantic relations between these words has been developed and the performance and training times have been compared with other models. In addition, another contribution of this study to improve the performance of the model to create a list of stop words for Turkish. With this model, it is aimed to achieve a higher classification performance especially for Turkish text classification problems. After analyzing the model formed within the scope of this study, it was detected that it showed a very successful performance when close words were examined. The dataset and word vectors will be shared with the public to provide contributions to Turkish studies.