REPOZITORIJ > REZULTATI

Doktorska disertacija

Ansambli procesnih modelov dinamičnih sistemov

Avtor(ji): Nikola Simidjievski (Avtor), Sašo Džeroski (Mentor), Ljupčo Todorovski (Somentor)

Datum zagovora: 23.05.2016

Organizacija: MPŠ - Mednarodna podiplomska šola Jožefa Stefana

PID: 20.500.12556/ReVIS-15047

Ogledi: 4 | Prenosi: 0

Povzetek

V doktorski disertaciji predstavljamo novo metodologijo za učenje ansamblov procesnih modelov, ki obravnava nalogo avtomatiziranega modeliranja dinamičnih sistemov. Matematično modeliranje je v samem jedru znanosti in inženirstva, kjer se spopada z nalogo opisovanja in razlage različnih resničnih sistemov. Znanstveniki in inženirji gradijo zapletene matematične modele z namenom, da preučijo, nadzorujejo in/ali napovedujejo odzive resničnih sistemov pod različnimi pogoji. Gradnja matematičnega modela je zahtevna naloga, ki mora upoštevati obsežno domensko znanje ter empirične ugotovitve o obravnavanem sistemu.
Obstajata dva poglavitna pristopa k modeliranju dinamičnih sistemov: teoretično modeliranje (na podlagi znanja) in empirično modeliranje (na podlagi podatkov). Pri prvem, domenski strokovnjak poda ustrezno sestavo modela, ki temelji na obsežnem znanju o obravnavanem sistemu. Za oceno (konstantnih) parametrov v modelu se kasneje lahko uporabijo meritve, parametre pa se lahko nastavi tudi ročno, na osnovi predznanja. Pri empiričnem pristopu, izmerjene podatke uporabimo za to, da z izkustveno metodo (ang. trial and error) poiščemo takšno kombinacijo sestave in parametrov modela, ki se kar se da dobro prilega opazovanemu sistemu. Cilj procesnega modeliranja je združitev teoretičnega in empiričnega pristopa, pri čemer kombiniramo visokonivojsko predznanje in meritve za učenje procesnega modela, ki je podrobna, razložljiva in modularna predstavitev obravnavanega dinamičnega sistema. Trenutno najboljše metode za procesno modeliranje so bile uspešno uporabljene v mnogih praktično relevantnih domenah za učenje opisnih modelov različnih sistemov. Kljub temu, da obstoječe metode preko modelov dajejo natančne opise obravnavanih sistemov, je napovedna moč dotičnih modelov šibka, kar negativno vpliva na zmožnost modela za napovedovanje obnašanja sistema.
Za premagovanje omenjene omejitve se pričujoče delo posluži uveljavljenega pristopa v strojnem učenju – pristopa ansambelskega učenja. Ansambelski pristop vodi k natančnim in odpornim modelom, ki so predvsem uporabljeni pri nalogah napovedovanja. Ansambelski modeli sestojijo iz končnega števila napovednih modelov. Pričakovati je, da bo združitev napovedi različnih modelov ustvarila boljše napovedi kot posamezni procesni modeli.
Predlagana metodologija za učenje ansamblov procesnih modelov, kar je tudi glavni prispevek te disertacije, združuje dva tira raziskav. Prvi nadgradi obstoječe pristope za učenje procesnih modelov dinamičnih sistemov, ki so največkrat uporabljeni v kontekstu opisnega modeliranja, v smer napovednega modeliranja. Drugi tir raziskav sledi osnovnim principom ansambelskega učenja in jih priredi v metodologijo za modeliranje dinamičnih sistemov. Osredotočimo se na metodologijo za učenje homogenih ansamblov procesnih modelov, ki sestojijo iz modelov, zgrajenih s pomočjo istega algoritma, iz različnih vzorcev podatkov v učni množici in/ali predznanju.
Metodologija vključuje algoritme za učenje ansamblov procesnih modelov z metodami (1) bagging, tj. učenje iz naključnih vzorcev podatkov, (2) boosting, tj. učenje iz z napako uteženih podatkov, (3) naključni knjižnični vzorci in (4) kombinacija metode bagging z učenjem iz naključnih knjižničnih vzorcev. Nadalje, metodologija vključuje metode za simulacijo ansamblov procesnih modelov, ki uporabljajo običajne metode za združevanje napovedi posameznih pripadnikov ansambla. Predlagana metodologija predstavlja splošno in modularno ogrodje, ki omogoča uporabo ansambelskih metod iz strojnega učenja v kontekstu učenja procesnih modelov.
Opravili smo obsežno eksperimentalno primerjavo, ki je osnovana na novem empiričnem ogrodju za ovrednotenje procesnih modelov dinamičnih sistemov, ki je ravno tako predlagano v tej disertaciji. To ogrodje je uporabljeno za ocenjevanje napovedne moči procesnih modelov in ansamblov le-teh. Ogrodje za ovrednotenje ravno tako poda usmeritve za optimalno izbiro izmed predlaganih ansambelskih metod. Ogrodje dodatno omogoča tudi raziskovanje v smeri raznovrstnosti posameznih članov v ansamblu, kar pripomore k razumevanju o tem, kako posamezen član ansambla vpliva na napovedno moč celotnega ansambla. Za konec smo analizirali računsko učinkovitost predlaganih metod za učenje ansamblov. Omenjene analize se nanašajo tako na empirične meritve, pridobljene iz eksperimentov, kot tudi teoretične izračune kompleksnosti posameznih gradnikov v predlaganih ansambelskih metodah.
Predlagano metodologijo smo uporabili in ovrednotili na problemih avtomatskega napovednega modeliranja populacijske dinamike v vodnih ekosistemih. Eksperimentalni rezultati kažejo, da ansambli procesnih modelov v splošnem dajejo signifikantno večjo napovedno moč v primerjavi s posameznimi procesnimi modeli. Predlagane ansambelske metode imajo med sabo podobno napovedno moč, analiza računske učinkovitosti pa pokaže, da so ansambli naučeni iz naključnih knjižničnih vzorcev najbolj učinkoviti. Čas, ki je potreben za učenje takšnega ansambla, je primerljiv s časom učenja enega procesnega modela.

Priloge

Citiraj to delo