REPOZITORIJ > REZULTATI

Povzetek

Razumevanje besedila (Text Understanding) je eden dolgoročnih ciljev umetne inteligence. Glavna naloga tega področja je razvoj algoritmov, ki bodo popolnoma samostojno razumeli besedila, ki jih je ustvaril človek. V tej disertaciji so predlagani, implementirani in ovrednoteni različni pristopi na podlagi strojnega učenja ter različne predstavitve pomena. Osredotočamo se predvsem na semantični vidik stavkov, manj pa na kontekst ali na sintaktične značilnosti.
Ontologije so sestavljene iz množice konceptov. Predikatna logika, ki povezuje te koncepte, je ena od predstavitev pomena, ki jih uporabljamo. Predlagamo dva pristopa na podlagi pravil, ki omogočajo preslikavo besedila v predikatno logiko. En pristop je osnovan na različnih vzorcih besedila, drugi pa uporablja sintaktični razčlenjevalnik. Vsa ta pravila so ročno ustvarjena. Postopki pa predpostavljajo popolno ontologijo. Te omejitve so bile povod za razvoj novega pristopa za indukcijo kontekstno neodvisne slovnice, ki omogoča semantično razčlenjevanje in učenje ontologije. Kontekstno neodvisna slovnica stavek razčleni v semantično drevo. To pa je predstavitev znanja, pri kateri ima vsako vozlišče svojo semantično kategorijo, npr. oseba, barva in poklic. Nekatera vozlišča pa se tudi ujemajo s koncepti iz ontologije. Semantična drevesa so uporabljena za ekstrakcijo relacij in razpoznavanje novih pojmov. Iz slovnice pa je izluščena taksonomija. Torej so tako slovnica kot tudi semantična drevesa uporabljena za nadgradnjo ontologije, tako da le-ta vsebuje tudi pomen vhodnih stavkov.
Razumevanje besedila se lahko nauči in ovrednoti s pomočjo sklepanja v besedilu (Natural Language Inference). Glavni cilj te naloge je ugotoviti, ali nek stavek logično sledi drugemu stavku ali pa je v relaciji z njim kontradiktoren oziroma nevtralen. Namesto da bi se osredotočili na ta klasifikacijski problem, smo se osredotočili na problem generiranja novih hipotez. Predlagamo več generativnih modelov nevronskih mrež, ki generirajo nove hipoteze, kar omogoča gradnjo novih naborov podatkov. Za vrednotenje teh modelov predlagamo novo metriko. To je natančnost klasifikatorja, naučenega na novem generiranem naboru podatkov in testiranega na originalnem naboru podatkov, ki jih je ustvaril človek. Natančnost klasifikatorja, ki je bil naučen preko najboljšega generativnega modela, je samo 2,7 % nižja od natančnosti klasifikatorja, naučenega na originalnih podatkih. Ta model se nauči vložitev preslikave za vsak učni primer posebej. Če pa združimo najboljši generirani in originalni nabor podatkov za učenje klasifikatorja, pa le-ta doseže najvišjo natančnost. Predlagana metrika nagrajuje raznolike, netrivialne in razumljive učne primere. Ugotovili smo, da nabori podatkov, ki dosežejo visoko oceno z drugimi metrikami, kot sta ROUGE in METEOR, ne dosežejo nujno visoke natančnosti naučenih klasifikatorjev. Analizirali smo tudi značilnosti dobrih naborov podatkov. Ena takih značilnosti je nezmožnost ločevanja generiranega nabora podatkov od originalnega nabora.