Towards resilient parallel linear Krylov solvers: recover-restart strategies

The advent of extreme scale machines will require the use of parallel resources at an unprecedented scale, probably leading to a high rate of hardware faults. High Performance Computing (HPC) applications that aim at exploiting all these resources will thus need to be resilient, i.e., be able to compute a correct solution in presence of faults. In this work, we investigate possible remedies in the framework of the solution of large sparse linear systems that is the inner most numerical kernel in many scienti c and engineering applications and also one of the most time consuming part. More precisely, we present recovery followed by restarting strategies in the framework of Krylov subspace solvers where lost entries of the iterate are interpolated to de ne a new initial guess before restarting the Krylov method. In particular, we consider two interpolation policies that preserve key numerical properties of well-known solvers, namely the monotony decrease of the A-norm of the error of the conjugate gradient (CG) or the residual norm decrease of GMRES. We assess the impact of the recovery method, the fault rate and the number of processors on the robustness of the resulting linear solvers. We consider experiments with CG, GMRES and Bi-CGStab. Key-words: Resilience, linear Krylov solvers, linear and least-square interpolation, monotonic convergence. ∗ Inria Bordeaux-Sud Ouest, France † Université de Bordeaux 1, France ha l-0 08 43 99 2, v er si on 1 12 J ul 2 01 3 Vers des solveurs linéaires de Krylov parallèles résilients Résumé : Les machines exa ops annoncées pour la n de la décennie seront très probablement sujettes à des taux de panne très élevés. Dans ce rapport nous présentons des techniques d'interpolation pour recouvrer des erreurs matérielles dans le contexte des solveurs linéaires de type Krylov. Pour chacune des techniques proposées nous démontrons qu'elles permettent de garantir des propriétés de décroissance monotone de la norme des résidus ou de la norme-A de l'erreur pour des méthodes telles que le gradient conjugué ou GMRES. A travers de nombreuses expérimentations numériques nous étudions qualitativement le comportement des di érentes variantes lorsque le nombre de c÷urs de calcul et le taux de panne varie. Mots-clés : Résilience, solveurs de Krylov linéaires, interpolation linéaire ou de moindres carrés, convergence monotone. ha l-0 08 43 99 2, v er si on 1 12 J ul 2 01 3 Towards resilient parallel linear Krylov solvers 3