REPOZITORIJ > REZULTATI

Doktorska disertacija

Gradnja razumljivih in točnih klasifikatorjev z algoritmi za iskanje zakonitosti v podatkih

Avtor(ji): Rok Piltaver (Avtor), Matjaž Gams (Mentor), Mitja Luštrek (Somentor)

Datum zagovora: 15.09.2016

Organizacija: MPŠ - Mednarodna podiplomska šola Jožefa Stefana

PID: 20.500.12556/ReVIS-15031

Ogledi: 0 | Prenosi: 0

Povzetek

Klasifikatorje, zgrajene z algoritmi za strojno učenje, ocenjujemo po različnih kriterijih. V tej doktorski disertaciji obravnavamo kriterija, ki sta običajno najpomembnejša pri izbiri klasifikatorja za praktično uporabo: razumljivost in točnost. Čeprav je dobro znano, katere postopke in mere je smiselno uporabiti za ocenjevanje pričakovane točnosti klasifikatorja glede na namen uporabe, je merjenje razumljivosti klasifikatorja dosti zahtevnejše, saj je znanstvena literatura na tem področju pomanjkljiva.
Prvi del disertacije je posvečen razumljivosti klasifikacijskih dreves. V njem smo sistematično analizirali vpliv strukture drevesa (število listov, faktor vejitve in globina drevesa) in načina vizualizacije na njegovo razumljivost. Poleg tega smo analizirali tudi vpliv globine vprašanja (globina najglobljega lista v drevesu, ki ga je potrebno upoštevati, da bi odgovorili na vprašanje o drevesu), ki se je izkazal za dejavnik z največjim vplivom na razumljivost in je v sorodnem delu večinoma spregledan. Analiza temelji na empiričnih podatkih, ki smo jih pridobili na podlagi skrbno zasnovane ankete z 98 vprašanji, na katero je odgovorilo 69 anketirancev, razdeljenih v skupine glede na njihovo znanje s področja odkrivanja zakonitosti v podatkih. Primerjali smo tudi več mer razumljivosti klasifikacijskih dreves in predlagali dve novi meri, ki sta izvedeni iz strukture drevesa in uteži, ki omogočajo upoštevanje pomena informacij v drevesu in ne le njegove strukture.
Druga pomanjkljivost obstoječih algoritmov za strojno učenje je, da se osredotočajo predvsem na točnost, medtem ko algoritmi, ki upoštevajo tudi razumljivost, le-to obravnavajo kot manj pomembno. Zaradi tega so uporabniki v mnogih domenah prisiljeni izbrati med razumljivim klasifikatorjem z relativno nizko točnostjo ali nerazumljivim klasifikatorjem z relativno visoko točnostjo.
Drugi del disertacije rešuje problem iskanja klasifikatorjev, ki so hkrati točni in razumljivi, na podlagi večkriterijskega strojnega učenja, ki obravnava oba kriterija kot enako pomembna in vrne množico nedominiranih klasifikatorjev. V ta namen uvedemo hibridno drevo kot klasifikacijski model, ki ponuja dobro pokrit razpon klasifikatorjev glede na kompromis med nasprotujočima si kriterijema. Hibridno drevo je podobno klasifikacijskemu drevesu, le da v nekaterih listih za klasifikacijo uporablja nerazumljiv klasifikator. To omogoča, da na račun zmanjšane razumljivosti poveča točnost. Za merjenje razumljivosti hibridnih dreves predlagamo mero, ki je zasnovana na podlagi rezultatov iz prvega dela disertacije.
Najpomembnejši doprinos je algoritem za večkriterijsko učenje hibridnih klasifikatorjev (MOLHC), ki lahko obravnava bistveno večja drevesa kot naivni preiskovalni algoritem, ki se sooča s kombinatorično eksplozijo. Pokazali smo, da je algoritem MOLHC primernejši od splošnega algoritma za večkriterijsko optimizacijo, ker ne zahteva nastavljanja parametrov (ki jih je za optimizacijski algoritem težko nastaviti), zagotovo vrne celotno množico nedominiranih klasifikatorjev (medtem ko optimizacijski algoritem v najboljšem primeru zagotavlja le konvergenco k tej množici) in ima za smiselno velika drevesa krajši čas izvajanja. Na primeru uporabe v domeni prepoznavanja aktivnosti smo pokazali, da algoritem MOLHC omogoča dodaten vpogled v dani klasifikacijski problem in na izbiro ponuja klasifikatorje z dobrim razmerjem med razumljivostjo in točnostjo.

Priloge

Citiraj to delo