Né en 1938, Alain Ollivier entre dans la vie professionnelle en 1960 après avoir suivi les cours de Georges Wilson et de Alain Cuny à l’école Charles Dullin.
En 1967, le Concours des Jeunes Compagnies de la ville d’Arras lui décerne son prix pour la mise en scène de La Poudre d’intelligence de Kateb Yacine.
Cependant il interrompt son activité de metteur en scène pour privilégier celle d’acteur. Il interprète auteurs classiques et contemporains, notamment sous la direction de Bernard Sobel, Jacques.Lassalle, Roger Planchon, Philippe Adrien, Peter Brook, Antoine Vitez. La critique lui décerne le prix du « meilleur acteur » en 1977.
C’est à partir de 1979 qu’il revient progressivement à la mise en scène. Il a introduit en France le théâtre de Thomas Bernhard (en réalisant successivement – 1982 et 1983 – deux mises en scène de L’Ignorant et le fou), et celui de Nelson Rodrigues, fondateur du théâtre brésilien (Ange Noir en 1996 et Toute nudité sera châtiée en 1999). Il a collaboré avec Pierre Guyotat à la réalisation de deux spectacles, Bond en avant en 1973 et Bivouac en 1987.
De 1983 à 2002 il a dirigé le Studio-Théâtre de Vitry, qu’il a établi dans un entrepôt de chiffonnier de papiers reconverti par Patrick Bouchain.
Il est nommé directeur du Théâtre Gérard Philipe de Saint-Denis à partir de janvier 2002, et le dirigera jusqu'à fin 2007. Il est mort le 21 mai 2010.
Alain Ollivier a publié Piétiner la scène aux Éditions Verticales.