Ogledi: 1 | Prenosi: 0
Tema doktorske naloge je samodejno snovanje strojnih implementacij za računanje nevronskih
mrež, ki dosegajo ultra nizke zakasnitve. Take strojne implementacije nevronskih
mrež, kjer so zakasnitve v redu nekaj mikrosekund, so uporabne v določenih nišnih aplikacijah.
Primer uporabe takšnih strojnih implementacij je prožil sistem v CERN-u, kjer
podatkovni toki iz senzoričnih sistemov dosegajo hitrosti terazlogov na sekundo. Ta sistem
mora prožiti z mikrosekundno zakasnitvijo, da prepreči preplavljanje medpomnilnika. Takšne
zakasnitve so izven dosega večine strojne opreme, saj so po večini le-te optimizirane
za visoko prepustnost. Velika večina sodobne strojne opreme uporablja razne oblike dinamičnega
pomnilnika za hranjenje parametrov nevronskih mrež. Takšni zunanji pomnilniki
uporabljajo vodila, ki imajo že sama visoko zakasnitev.
Za dosego ultra nizkih zakasnitev je ključno, da sistem ne uporablja zunanjih pomnilnikov
in da so vsi parametri shranjeni lokalno na čipu. Pomembno je tudi, da nevronsko
mrežo procesiramo na zelo vzporeden način. Tega pa ni lahko doseči, ker imajo nevronske
mreže tipično veliko število parametrov; lokalni pomnilnik pa je omejen. Dve tehniki se
pogosto uporabljata v izogib temu problemu: kvantizacija in rezanje. Z uporabo naprednih
tehnik učenja nevronskih lahko naučimo mreže, katerih parametri so kvantizirani na zelo
majhne bitne širine. Druga tehnika optimizacije nevronskih mrež pa se imenuje rezanje
sinaps. Pri tej tehniki odstranjujemo odvečne povezave v nevronskih mrežah, in s tem
odstranimo tudi odvečne parametre. Skupaj ti tehniki optimizacije omogočata implementacije
nevronskih mrež na sodobnih programirljivih vezjih na zelo vzporeden način.
V tem delu razvijemo metodologijo za razvoj zelo vzporednih strojnih implementacij
kvantiziranih nevronskih mrež na osnovi generatorjev, ki uporabljajo strukturne opise vezij.
Eden izmed ciljev je ustvariti alternativno rešitev orodjem, ki so osnovana z uporabo
metode visoko nivojske sinteze. Te metode imajo težave pri večjih nevronskih mrežah, saj
visoko nivojska sinteza uporablja algoritme, ki imajo polinomsko časovno kompleksnost.
V tem delu razvijemo orodje na osnovi jezika za opis strojne opreme Chisel. To orodje je
sposobno tvoriti direktne strojne implementacije kvantiziranih in rezanih nevronskih mrež.
Svoje orodje tudi primerjamo s podobnimi orodji, ki pa so osnovana na tehnologiji visoko
nivojske sinteze.
strojne implementacije zakasnitve strojna oprema kvantizirane nevronske mreže generiranje deeply quantized neural networks tools doctoral dissertation