Marshall era toboşar şi profesor de percuţie în Londra, la începutul anilor 60. A deschis un magazin de instrumente muzicale, ceea ce i-a permis să intre în legătură cu mai mulţi artişti importanţi din epocă, printre care şi Pete Townshend de la The Who. De la el a aflat că nu există o alternativă britanică la foarte scumpele sisteme de amplificare americane. Marshall a inventat atunci amplificatorul care îi poartă numele şi care a devenit celebru. În ultimii cincizeci de ani amplificatoarele Marshall au fost folosite de toate numele mari ale muzicii rock şi au contribuit decisiv la evoluţia sunetului acestui gen dar şi a tehnicilor de concert. Iar părintele lor a fost supranumit „The Father of Loud” (Părintele muzicii „dată tare”).
Marshall a murit la 88 de ani după ce a suferit mai multe atacuri cerebrale şi după un an de luptă cu cancerul.