Po studiu na matematicko-fyzikální fakultě a fakultě tělesné výchovy a sportu UK v Praze působil na strojírenském učilišti či v odboru investic Hnědouhelných dolů v Sokolově. Do Sametové revoluce řadový člen KSČ Josef Novotný studoval na VUMLu, Večerní univerzitě Marxismu-Leninismu. V roce 2005 dokončil funkční studium pro ředitele a manažery škol.
Do politiky Josef Novotný vkročil jako nezávislý za ČSSD, a to roku 2002, kdy byl zvolen do zastupitelstva a rady města Sokolov. Do strany sociálních demokratů vstoupil roku 2003. V listopadu 2008 se stal hejtmanem Karlovarského kraje.
Ve volbách do Poslanecké sněmovny 2013 kandidoval jako krajský lídr ČSSD a uspěl. Přes vnitrostranický zákaz si Josef Novotný ponechal obě funkce, tedy již vyhřáté křeslo hejtmana a nové poslanecké. Premiér a předseda strany Bohuslav Sobotka tehdy jeho rozhodnutí označil za chybné a z pohledu členů i voličů nepochopitelné.
Až usnesení karlovarské okresní konference ČSSD, která jej vyzvala, aby se rozhodl pro jednu ze svých funkcí, v polovině listopadu 2014 Josef Novotný oznámil, že se vzdá postu hejtmana. V září 2015 vystoupil z ČSSD a následující rok mandát krajského zastupitele neobhájil.
V červnu 2017 byl Josef Novotný společně s poslancem Jaroslavem Borkou (KSČM) Sněmovnou vydán ke stíhání v případu machinací s dotacemi z Regionálního operačního programu Severozápad, v němž policie sdělila obvinění několika vysokým úředníkům a podnikatelům. Oba poslanci jsou podezřelí mj. z poškození finančních zájmů EU a zjednání výhody při zadání veřejné zakázky.
Josef Novotný je ženatý. S manželkou Zdeňkou, která učí na 1. stupni ZŠ v Sokolově, má syny Jakuba a Josefa. Ten se uchytil ve filmovém průmyslu v Los Angeles.