Abstracts Category : Other

Dynamic load balancing for hybrid applications

by Gasulla Marta Garcia

En aquesta tesi presentem DLB (Dynamic Load Balancing), una llibreria que ajuda a fer un us eficient dels recursos d'un node de clcul. Dins de DLB hem implementat un algoritme de balanceig original: LeWI (Lend When Idle). LeWI est basat en la idea que quan un procs MPI est esperant en una crida MPI bloquejant els recursos de clcul que t assignats no estan ocupats. Per tant, aquests recursos els poden fer servir altres processos que s'estiguin executant al mateix node per acabar el seu clcul ms rpid. DLB intercepta les crides MPI i canvia el nombre de threads OpenMP com calgui. Quan un procs arriba a una crida MPI bloquejant cedir les seves CPUs a un altre procs que s'estigui executant al mateix node. Quan el primer procs MPI acabi la crida MPI bloquejant recuperar les seves CPUs. Hem implementat LeWI a DLB i avaluat el seu rendiment, amb aquesta avaluaci hem vist que DLB i LeWI poden millorar el rendiment d'aplicacions hbrides. LeWI pot balancejar aplicacions amb patrons regulars o irregular de desbalanceig sense modificar l'aplicaci. Hem observat que la malleabilitat del model de programaci i de l'aplicaci pot afectar el rendiment que s'obt amb l'algoritme de balanceig. Tot i que OpenMP s malleable t una limitaci, el nombre de threads noms es pot canviar fora d'una regi parallela. El model de programaci OmpSs s ms malleable, ja que el nombre de threads es pot canviar en qualsevol punt. L'avaluaci ens va demostrar que la malleabilitat del model de programaci que es fa servir te un impacte substancial en el rendiment que obt l'algoritme de balanceig. Per defecte els diferents processos MPI es distribueixen de manera consecutiva entre els nodes de clcul, per hem observat que en les aplicacions cientfiques la tendncia s que els processos ms carregats siguin consecutius. Per aquest motiu fer una distribuci cclica (Round Robin) dels processos MPI entre els nodes permet a l'algoritme de balanceig obtenir un millor rendiment. Tamb hem observat que lligar els threads a CPUs o no fer-ho afecta al rendiment de les aplicacions i en especial quan es fa servir l'algoritme de balanceig. Per a permetre que LeWI pugui gestionar CPUs concretes hem modificat la llibreria perqu utilitzi mascares de CPUs. Amb l'avaluaci hem vist que lligar els threads a CPUs t un impacte important en el rendiment que s'obt. Per tamb que l'impacte depn de la mida del node (nombre de CPUs per node) i l'estructura de la memria. Hem integrat DLB amb un runtime parallel, Nanos++. Aquesta integraci ens ha mostrat el potencial d'aquest tipus de collaboracions entre runtimes. Ens ha perms identificar els punts clau de coordinaci necessaris i ens ha demostrat que DLB est preparat per a ser integrat amb altres runtimes paralels. L'avaluaci ha mostrat el potencial d'aquest tipus d'integracions i collaboracions. Finalment, hem fet una avaluaci exhaustiva de l'entorn i l'algoritme amb una aplicaci en producci: Alya. Hem vist que podem reduir fins a un 40% el temps d'execuci per a situacions amb un altAdvisors/Committee Members: [emailprotected] (authoremail), false (authoremailshow), Corbaln Gonzlez, Julita (director), Labarta Mancho, Jess (codirector), true (authorsendemail).