Central Limit Theorems for Stochastic Optimization Algorithms Using Infinitesimal Perturbation Analysis

Central limit theorems are obtained for the \perturbation analysis Robbins-Monro single run" (PARMSR) optimization algorithm, with updates either after every L customers or after every busy period, in the context of the optimization of a GI=GI=1 queue. The PARMSR algorithm is a stochastic approximation (SA) method for the optimization of innnite-horizon models. It is shown that the convergence rate and the asymptotic variance constant of the optimization algorithm, as a function of the total computing budget (i.e., total number of customers), are the same for both updating methods, and independent of L, provided that the step sizes of SA are chosen in the (asymptotically) optimal way for each method. R esum e. On obtient des th eor emes de la limite centrale pour la solution de l'algorithme \perturbation analysis Robbins-Monro single run" (PARMSR) pour l'optimisation d'une le d'attente GI=GI=1, avec mise a jour apr es chaque L clients ou apr es chaque cycle regeneratif. L'algorithme PARMSR est une m ethode d'approximation stochastique (AS) pour l'optimisation de mod eles sur horizon innni. Nos r esultats impliquent que le taux de convergence et la constante de variance asymptotique de l'algorithme d'optimisation, en fonction du budget total de calcul (i.e., le nombre total de clients), sont les m^ emes pour les deux m ethodes de mise a jour, et ind ependants de L, pourvu que les longueurs de pas de l'AS soient choisis de mani ere optimale pour chaque m ethode. We thank the two anonymous referees, whose comments helped improving the presentation of the results in paper.