REPOZITORIJ > REZULTATI

Doktorska disertacija

Ansambli dreves in pravil za večciljno napovedovanje z naključno izbranimi izhodnimi podprostori

Avtor(ji): Martin Breskvar (Avtor), Sašo Džeroski (Mentor), Dragi Kocev (Somentor)

Datum zagovora: 19.04.2019

Organizacija: MPŠ - Mednarodna podiplomska šola Jožefa Stefana

PID: 20.500.12556/ReVIS-14449

Ogledi: 14 | Prenosi: 8

Povzetek

Pričujoča disertacija spada v področje strojnega učenja in se ukvarja z napovednim modeliranjem,
katerega cilj je učenje napovednih modelov. Ukvarjamo se z zahtevnim reševanjem
nalog večciljnega napovedovanja (VCN). V nasprotju s klasičnim napovednim modeliranjem,
kjer se napoveduje zgolj ena vrednost, v VCN napovedujemo več vrednosti hkrati.
Osrednja predpostavka VCN je, da so ciljne spremenljivke del strukture, kjer je struktura
razumljena kot množica med seboj povezanih gradnikov, ki posamično vsebujejo informacije,
skupaj pa tvorijo smiseln koncept. Rešujemo naloge, kjer so vse ciljne spremenljivke
ali številske (večciljna regresija, VCR) ali binarne (večoznačna klasikacija, VOK).
Naloge VCN se lahko rešujejo z uporabo lokalnih ali globalnih pristopov. Lokalni pristopi
razgradijo prvotni problem VCN v množico problemov napovedovanja ene vrednosti.
Tako razgrajene naloge se nato rešuje z uporabo obstoječih metod, ki pa ne upoštevajo
morebitne povezanosti ciljnih spremenljivk. Po drugi strani globalni pristopi predpostavljajo
medsebojno povezanost ciljnih spremenljivk in to izkoristijo za učenje modelov, ki
napovedujejo vse ciljne spremenljivke hkrati. V napovednem modeliranju se pogosto uporabljajo
ansambelski modeli z namenom doseganja vrhunske napovedne točnosti. Ansambel
je zbirka modelov, kjer so napovedi posameznih modelov združene v končno napoved
ansambla.
V pričujoči disertaciji razširjamo ansambelske metode za VCN z vpeljavo Naključnega
Izbiranja Izhodnih Podprostorov (NIIP), metode za učenje globalnih ansamblov dreves
za napovedno razvrščanje (DNR) za VCN. NIIP se posamezno DNR za VCN nauči na
naključno izbrani podmnožici ciljnih spremenljivk ter s tem predpostavko medsebojnih
povezav med ciljnimi spremenljivkami omeji samo na izbrano podmnožico ciljnih spremenljivk.
Predlagana metoda je bila implementirana v več vrst metod za grajenje ansamblov
dreves za VCN. Ansamble dreves z NIIP smo uporabili na problemih VCR in VOK problemih
ter jih temeljito ovrednotili na vrsti podatkovij iz različnih domen. Dodatno je
bil predlagan tudi nov pristop združevanja napovedi v ansamblih. Praviloma vsi modeli
v ansamblu napovedujejo vse ciljne spremenljivke. Z uporabo NIIP lahko za vsako ciljno
spremenljivko združujemo samo napovedi tistih modelov v ansamblu, ki so se dano ciljno
spremenljivko učila. Naši rezultati kažejo na to, da imajo ansambli dreves z uporabo
NIIP višjo napovedno točnost kot trenutno vrhunske metode za reševanje VCR nalog ter
primerljivo napovedno točnost kot trenutno vrhunske metode za reševanje VOK nalog.
Ansambelskih modelov, ki predstavljajo modele z vrhunsko napovedno močjo na podro
čju VCN, v splošnem ni mogoče razložiti. Posledično se uporabljajo modeli z manjšo
napovedno močjo, katerih obrazložitev je mogoča. Metoda za grajenje ansamblov pravil za
VCR interno uporablja ansamble DNR za generiranje velikega števila kandidatnih pravil,
katerih število se po optimizaciji občutno zmanjša. Omenjeno metodo razširjamo na način,
da se kandidatna pravila gradijo z ansambli dreves, ki uporabljajo NIIP. Naši rezultati
kažejo, da predlagana metoda dosega vrhunsko napovedno točnost v primerjavi z znanimi
metodami za generiranje pravil za VCR.

Priloge

Citiraj to delo