A comprehensive analysis of the parameters in the creation and comparison of feature vectors in distributional semantic models for multiple languages

Dobó András
A comprehensive analysis of the parameters in the creation and comparison of feature vectors in distributional semantic models for multiple languages.
PhD, University of Szeged.
(2019)

[img]
Preview
PDF (disszertáció)
Download (7MB) | Preview
[img]
Preview
PDF (tézis)
Download (349kB) | Preview
[img]
Preview
PDF (tézis)
Download (352kB) | Preview

Abstract in Hungarian

Számos számítógépes nyelvészeti probléma megoldásához fontos, hogy meg tudjuk határozni szavak szemantikai hasonlóságának vagy kapcsolatának mértékét. Habár az e feladatra tervezett eloszlás alapú szemantikai modellek számos lehetséges paraméterrel rendelkeznek, mint például vektorhasonlósági mértékek, súlyozási sémák vagy dimenzió-csökkentési technikák, nincs még olyan átfogó elemzés, amely e paramétereket párhuzamosan vizsgálná, és közben a különböző nyelvekre kapott eredmények összehasonlítaná. E hiányt szeretnénk ezzel a szisztematikus elemzésünkkel pótolni, amelynek a során először keressük az eloszlás alapú szemantikai modellek tulajdonságvektorainak készítése és összehasonlítása során használt paraméterek legjobb konfigurációját angolra, spanyolra és magyarra külön-külön, majd a különböző nyelvekre kapott eredményeket összehasonlítjuk. Az átfogó elemzésünk során minden paraméterre számos beállítási lehetőséget teszteltünk, néhány paraméter esetén több, mint ezer különbözőt. Ennek eredményeképp sikerült olyan konfigurációkat találjunk, amik lényegesen jobb eredményt értek el, mint a hagyományosan használt konfigurációk, és túlszárnyalták az eddigi legjobb eredményeket.

Abstract in foreign language

Measuring the semantic similarity and relatedness of words is important for many natural language processing tasks. Although distributional semantic models designed for this task have many different parameters, such as vector similarity measures, weighting schemes and dimensionality reduction techniques, there is no truly comprehensive study simultaneously evaluating these parameters while also analysing the differences in the findings for multiple languages. We would like to address this gap with our systematic study by searching for the best configuration in the creation and comparison of feature vectors in distributional semantic models for English, Spanish and Hungarian separately, and then comparing our findings across these languages. During our extensive analysis we test a large number of possible settings for all parameters, with more than a thousand novel variants in case of some of them. As a result of this we were able to find such configurations that significantly outperform conventional configurations and achieve state-of-the-art results.

Item Type: Thesis (PhD)
Creators: Dobó András
Hungarian title label: Eloszlás alapú szemantikai modellek tulajdonságvektorainak készítése és összehasonlítása során használt paraméterek átfogó elemzése több nyelvre
Divisions: Doctoral School Informatics
Discipline label: Engineering > Information Technology
Defence date label: 2019. November 15.
Uncontrolled Keywords: distributional semantic models semantic similarity and relatedness best combination of parameter settings comparison of findings across languages English, Spanish and Hungarian
Item ID: 10120
Date Deposited: 2019. Apr. 06. 09:19
Last Modified: 2019. Nov. 20. 14:24
Depository no.: B 6548
URI: http://doktori.bibl.u-szeged.hu/id/eprint/10120
Defence/Citable status: Not Defended. (Do not cite until it has not assigned DOI number!)

Actions (login required)

View Item View Item

Downloads

Downloads per month over past year