Multilevel communication optimal LU and QR factorizations for hierarchical platforms

This study focuses on the performance of two classical dense linear algebra algorithms, the LU and the QR factorizations, on multilevel hierarchical platforms. We first introduce a new model called Hierarchical Cluster Platform (HCP), encapsulating the characteristics of such platforms. The focus is set on reducing the communication requirements of studied algorithms at each level of the hierarchy. Lower bounds on communications are therefore extended with respect to the HCP model. We then introduce multilevel LU and QR algorithms tailored for those platforms, and provide a detailed performance analysis. We also provide a set of numerical experiments and performance predictions demonstrating the need for such algorithms on large platforms. Key-words: QR, LU, exascale, hierarchical platforms ∗ INRIA Paris Rocquencourt, B.P. 105, F-78153 Le Chesnay Cedex, France † UPMC Univ Paris 6, CNRS UMR 7598, Laboratoire Jacques-Louis Lions, F-75005, Paris, France Factorisations LU et QR multi-niveaux optimales en communication pour plates-formes hiérarchiques Résumé : Cette étude porte sur l’analyse des performances de deux algorithmes classiques de l’algèbre linéaire dense, les factorisations LU et QR, sur des platesformes multi-niveaux hiérarchiques. Nous présentons tout d’abord un nouveau modèle analytique appelé Hierarchical Cluster Platform (HCP), encapsulant les caractéristiques de ce type de plates-formes. Plus précisément, l’emphase est mise sur ce qui se passe à chaque niveau de la hiérarchie. Nous étendons des bornes inférieures sur les communications au modèle HCP. Nous introduisons ensuite deux algorithmes multi-niveaux adaptés à ces plates-formes pour les factorisations LU et QR, et analysons leurs performances. Nous présentons en outre un ensemble d’expériences numériques ainsi que des prédictions de performances illustrant la nécessité de tels algorithmes sur les plates-formes à grande échelle. Mots-clés : QR, LU, exascale, plates-formes hiérarchiques Multilevel communication optimal LU and QR factorizations 3