A comprehensive analysis of the parameters in the creation and comparison of feature vectors in distributional semantic models for multiple languages

Dobó András
A comprehensive analysis of the parameters in the creation and comparison of feature vectors in distributional semantic models for multiple languages.
Doctoral thesis (PhD), University of Szeged.
(2019) (Unpublished)

[thumbnail of AndrasDoboThesis2019.pdf]
Preview
PDF (thesis)
Download (7MB) | Preview
[thumbnail of AndrasDoboThesisBooklet2019.pdf]
Preview
PDF (booklet)
Download (349kB) | Preview
[thumbnail of AndrasDoboThesisBookletHU2019.pdf]
Preview
PDF (booklet)
Download (352kB) | Preview

Abstract in Hungarian

Számos számítógépes nyelvészeti probléma megoldásához fontos, hogy meg tudjuk határozni szavak szemantikai hasonlóságának vagy kapcsolatának mértékét. Habár az e feladatra tervezett eloszlás alapú szemantikai modellek számos lehetséges paraméterrel rendelkeznek, mint például vektorhasonlósági mértékek, súlyozási sémák vagy dimenzió-csökkentési technikák, nincs még olyan átfogó elemzés, amely e paramétereket párhuzamosan vizsgálná, és közben a különböző nyelvekre kapott eredmények összehasonlítaná. E hiányt szeretnénk ezzel a szisztematikus elemzésünkkel pótolni, amelynek a során először keressük az eloszlás alapú szemantikai modellek tulajdonságvektorainak készítése és összehasonlítása során használt paraméterek legjobb konfigurációját angolra, spanyolra és magyarra külön-külön, majd a különböző nyelvekre kapott eredményeket összehasonlítjuk. Az átfogó elemzésünk során minden paraméterre számos beállítási lehetőséget teszteltünk, néhány paraméter esetén több, mint ezer különbözőt. Ennek eredményeképp sikerült olyan konfigurációkat találjunk, amik lényegesen jobb eredményt értek el, mint a hagyományosan használt konfigurációk, és túlszárnyalták az eddigi legjobb eredményeket.

Abstract in foreign language

Measuring the semantic similarity and relatedness of words is important for many natural language processing tasks. Although distributional semantic models designed for this task have many different parameters, such as vector similarity measures, weighting schemes and dimensionality reduction techniques, there is no truly comprehensive study simultaneously evaluating these parameters while also analysing the differences in the findings for multiple languages. We would like to address this gap with our systematic study by searching for the best configuration in the creation and comparison of feature vectors in distributional semantic models for English, Spanish and Hungarian separately, and then comparing our findings across these languages. During our extensive analysis we test a large number of possible settings for all parameters, with more than a thousand novel variants in case of some of them. As a result of this we were able to find such configurations that significantly outperform conventional configurations and achieve state-of-the-art results.

Item Type: Thesis (Doctoral thesis (PhD))
Creators: Dobó András
Hungarian title: Eloszlás alapú szemantikai modellek tulajdonságvektorainak készítése és összehasonlítása során használt paraméterek átfogó elemzése több nyelvre
Supervisor(s):
Supervisor
Position, academic title, institution
MTMT author ID
Csirik János
egyetemi tanár, DSc, SZTE TTIK Számítógépes Algoritmusok és Mesterséges Intelligencia Tanszék
10000477
Subjects: 01. Natural sciences > 01.02. Computer and information sciences
Divisions: Doctoral School of Computer Science
Discipline: Engineering > Information Technology
Language: English
Date: 2019. November 15.
Uncontrolled Keywords: distributional semantic models semantic similarity and relatedness best combination of parameter settings comparison of findings across languages English, Spanish and Hungarian
Item ID: 10120
MTMT identifier of the thesis: 30895463
doi: https://doi.org/10.14232/phd.10120
Date Deposited: 2019. Apr. 06. 09:19
Last Modified: 2020. Jul. 07. 13:19
Depository no.: B 6548
URI: https://doktori.bibl.u-szeged.hu/id/eprint/10120
Defence/Citable status: Defended.

Actions (login required)

View Item View Item

Downloads

Downloads per month over past year