Jean-Pierre Marielle a fost de şapte ori nominalizat la Premiile César, echivalentul Oscarurilor în cinematografia franceză, dar nu a câştigat niciodată trofeul. S-a născut la Paris, la 12 aprilie 1932, însă cea mai mare parte a copilăriei a petrecut-o la Dijon.
Primul rol în teatru l-a obţinut în „Le mariage forcé”, de Moliere, în 1953. În tinereţe s-a făcut cunoscut şi pentru apariţiile sale în spectacole de cabaret alături de Guy Bedos.