Původně Jan Hraběta pracoval jako elektromechanik. V roce 1978 nastoupil v Divadle Járy Cimrmana jako osvětlovač a nedlouho poté se stal jeho hercem. Ztvárnil tam mj. praotce Čecha v Českém nebi, hostinského v Hospodě Na mýtince, správcovou v Lijavci nebo faráře v Němém Bobšovi.
Jan Hraběta si kromě představení z dílny převážně autorské dvojice Ladislav Smoljak a Zdeněk Svěrák zahrál řadu epizodních rolí ve filmech a seriálech. V Postřižinách Jiřího Menzela byl hostem pivovaru, v Trháku Zdeňka Podskalského agronomem, trafikantem v Probudím se včera Miloslava Šmídmajera.
K výraznějším postavám Jana Hraběty patří role hospodského Standy v seriálu Horákovi nebo majitele lihovaru v Ohnivým kuřeti. Dále se objevil ve Vyprávěj nebo v seriálech Bylo nás pět, Hospoda a Doktor Martin.