Grasinančio turinio žinučių aptikimo naujienų komentaruose metodų tyrimas

Abstract

Magistrinio darbo tikslas - pritaikyti mašininio mokymo algoritmus grasinančio turinio tekstui atpažinti. Tikslui įgyvendinti buvo iškelti šie uždaviniai: atlikti teksto atpažinimui naudojamų metodų analizę, surinkti duomenų rinkinį, kuriuo bus apmokami minėtieji algoritmai, pasiūlyti metodą ar metodų kombinaciją kuri padėtų įgyvendinti darbo tikslą bei įgyvendinti pasiūlytus metodus ir pateikti rezultatus. Temos naujumas - toks tyrimas lietuvių kalbai dar nėra atliktas. Temos aktualumas - prisidėta prie lietuvių kalbos nagrinėjimo natūralios kalbos apdorojime. Įgyvendintas tikslas taip pat aktualus kaip filtras, filtruojantis grasinančius sakinius. Atlikus metodų analizę buvo išsiaiškinta, jog tekstui klasifikuoti egzistuoja daug klasifikatorių, kurie yra skirstomi į klasikinius ir giliojo mokymo algoritmus. Kiekvienas klasifikatorius turi privalumų ir trūkumų, todėl modelį reikia rinktis pagal esamą problemą ir siekiamą tikslą. Duomenų rinkinys buvo surinktas iš įvairių medijos portalų bei kitų kalbų egzistuojančių šaltinių, kurie buvo išversti į lietuvių kalbą. Rinkinys buvo sudarytas iš 500 grasinančių ir 500 neutralių sakinių. Tyrimams buvo pasiūlyta naudoti TF ir TF-IDF metodus, išmėginti dimensijų sumažinimą bei išbandyti skirtingus klasifikatorių parametrus. Galutiniams bandymas buvo išmėginti NB, SVM, BERT, „Decision Trees", „Gradinet Boosted", „Random Forest" ir MLP klasifikatoriai, TF ir TF-IDF bei LSA dimensijų mažinimas. Rezultatai parodė, jog dimensijų mažinimas pagerino tik DT ir GB klasifikatorių bendrą tikslumą, visų kitų klasifikatorių tikslumas nukrito. TF-IDF metodas buvo pranašesnis visuose atvejuose, išskyrus su NB klasifikatoriumi, kur TF metodas turėjo mažą pranašumą. Geriausius tikslumus parodė NB - 90 %, SVM - 89% ir MLP - 86%. Daugiausiai grasinančių sakinių atspėjo NB klasifikatorius, antroje vietoje MLP, todėl šie klasifikatoriai buvo pasirinkti integruoti į sakinio klasifikavimo API.