A comprehensive analysis of the parameters in the creation and comparison of feature vectors in distributional semantic models for multiple languages

Preview	PDF (thesis) Download (7MB) | Preview
Preview	PDF (booklet) Download (349kB) | Preview
Preview	PDF (booklet) Download (352kB) | Preview

Abstract in Hungarian

Számos számítógépes nyelvészeti probléma megoldásához fontos, hogy meg tudjuk határozni szavak szemantikai hasonlóságának vagy kapcsolatának mértékét. Habár az e feladatra tervezett eloszlás alapú szemantikai modellek számos lehetséges paraméterrel rendelkeznek, mint például vektorhasonlósági mértékek, súlyozási sémák vagy dimenzió-csökkentési technikák, nincs még olyan átfogó elemzés, amely e paramétereket párhuzamosan vizsgálná, és közben a különböző nyelvekre kapott eredmények összehasonlítaná. E hiányt szeretnénk ezzel a szisztematikus elemzésünkkel pótolni, amelynek a során először keressük az eloszlás alapú szemantikai modellek tulajdonságvektorainak készítése és összehasonlítása során használt paraméterek legjobb konfigurációját angolra, spanyolra és magyarra külön-külön, majd a különböző nyelvekre kapott eredményeket összehasonlítjuk. Az átfogó elemzésünk során minden paraméterre számos beállítási lehetőséget teszteltünk, néhány paraméter esetén több, mint ezer különbözőt. Ennek eredményeképp sikerült olyan konfigurációkat találjunk, amik lényegesen jobb eredményt értek el, mint a hagyományosan használt konfigurációk, és túlszárnyalták az eddigi legjobb eredményeket.

Abstract in foreign language

Measuring the semantic similarity and relatedness of words is important for many natural language processing tasks. Although distributional semantic models designed for this task have many different parameters, such as vector similarity measures, weighting schemes and dimensionality reduction techniques, there is no truly comprehensive study simultaneously evaluating these parameters while also analysing the differences in the findings for multiple languages. We would like to address this gap with our systematic study by searching for the best configuration in the creation and comparison of feature vectors in distributional semantic models for English, Spanish and Hungarian separately, and then comparing our findings across these languages. During our extensive analysis we test a large number of possible settings for all parameters, with more than a thousand novel variants in case of some of them. As a result of this we were able to find such configurations that significantly outperform conventional configurations and achieve state-of-the-art results.

View Item