Armádní generál Jiří Šedivý začal profesionální kariéru vojáka z povolání již v roce 1971 po absolvování Vojenského gymnázia Jana Žižky z Trocnova v Moravské Třebové. V letech 1978 až 1990 velel různým tankovým jednotkám, těsně před listopadem 1989 tankovému pluku a byl rovněž náčelníkem štábu divize. Do roku 1989 byl členem KSČ. Jeho hvězdná kariéra začala až v 90. letech, kdy odjel do USA studovat na U.S. Army War College v Carlisle ve státě Pensylvánie.
Koncem roku 1995 byl odeslán do Bosny a Hercegoviny k výkonu funkce velitele kontingentu Armády ČR v misi IFOR (Implementation Force - mise pod velením NATO) a velitele kontingentu, kterou vykonával do 27. července 1996. Po návratu z mise byl Jiří Šedivý ustanoven do funkce inspektora pozemního vojska Armády České republiky. V roce 1997 převzal funkci náčelníka sekce bojové přípravy Generálního štábu Armády ČR. Od srpna 1997 byl velitelem pozemního vojska ČR. Dnem 1. května 1998 je ustanoven do funkce náčelníka Generálního štábu Armády České republiky. Funkci zastával do listopadu 2002.
Jiří Šedivý je nositelem medailí Za službu vlasti, Za zásluhy o obranu vlasti, Za zásluhy II. stupně, Za službu pro mír a svobodu, čestných pamětních odznaků Za službu míru a za službu v misi IFOR. V roce 1998 byl vyznamenán Záslužným křížem.
V současné době mimo jiné působí Jiří Šedivý jako vedoucí oddělení bezpečnostních studií vysoké školy CEVRO Institu. Začátkem roku 2014 se vyjádřil k výbuchu a shromažďování vojenského materiálu, který byl nalezen v objektu budoucí palestinské ambasády.
Někdy bývá mylně zaměňován se svým o deset let mladším jmenovcem Jiřím Šedivým, který je sice také odborníkem v oblasti bezpečnostní politiky (byl dokonce ministrem obrany a v letech 2007–2010 dokonce zastával pozici náměstka generálního tajemníka NATO pro obrannou politiku a plánování), nicméně jako profesionální voják v armádě nidky nesloužil.