Joseph Clemens Ruby s-a născut pe 30 martie 1933, la Los Angeles. După ce a absolvit cursurile liceale, s-a înrolat în Marina Americană şi a luptat în Coreea. Fan al benzilor desenate, Ruby a fost angajat de Walt Disney Studios. Conştient că îi va lua ani buni până ce va deveni animator deplin, el a ales să devină editor muzical şi a continuat să lucreze ca artist animator pe cont propriu înainte de a fi angajat la Hanna-Barbera în 1959.
Joe Ruby l-a întâlnit pe Ken Spears când amândoi erau monteuri de sunet, apoi au făcut parte din echipa de scenarişti a companiei Hanna-Barbera şi au creat serialul „Scooby-Doo, Where Are You!”, care a debutat la CBS în septembrie 1969. Dintre primele 25 de episoade, el a scris şi editat mai puţin patru.
La începutul anilor 1970, cei doi au fost numiţi de Fred Silverman de la CBS coordonatori ai programului pentru copii difuzat sâmbăta. Ei l-au urmat pe director la ABC, în 1975. „Scooby-Doo” a fost, de asemenea, mutat.
Pe lângă „Scooby-Doo”, Ruby şi Spears au creat personaje precum Dynomutt, Dog Wonder şi Jabberjaw at H-B, apoi au lucrat la seriale ca „The Barkleys” şi „The Houndcats”.