D'abord élève à l'Ecole nationale du Havre dans la classe de percussions de Phillipe Labadie de 1977 à 1990, Jean-Marie Olivier étudie au CNR de Créteil avec Francis Brana et Jean Geoffroy, puis intègre la classe de Jacques Delécluse au CNSM de Paris.  Spécialiste du répertoire pour marimba, Jean-Marie Olivier enseigne les percussions et accompagne les classes de danse du Conservatoire Honegger. 

Il joue très régulièrement dans différentes formations, telles que l'Orchestre d'Harmonie de la Ville du Havre, la Camerata, l'Orchestre Caux Vallée de Seine, Tango & Co, Massouma Cabanon (musiques du monde)...