Už během středoškolských studií vzrůstal u Ivana Mládka zájem o hudbu, zejména o jazz. V roce 1959 spoluzaložil studentský dixieland Storyville Jazz. Od roku 1966 byl v čele skupiny Banjo Band. Skupina se proslavila nejen na koncertech, ale i v televizním prostředí. Mnozí si Ivana Mládka spojují převážně s písní Jožin z bažin.
Z televizního prostředí se nejvíce prosadil s pořadem Čundrcountryshow, později s Country estrádou. V pořadu vedle Ivana Mládka účinkovali např. Ivo Pešák nebo Lenka Plačková.
Objevil se také v pořadu Nikdo není dokonalý. Ve filmu si zahrál v malých rolích, např. v Kronice žhavého léta či v Trháku. K projektům Ivana Mládka patří show Cyranův ostrov na TV Barrandov.
Rodinný život Ivana Mládka byl po většinu jeho kariéry záhadou. Po dlouhá léta se snažil své soukromí uchránit a manželka Eva a syn Štěpán byli převážně ve zpěvákově ústraní. Ačkoli se soukromí Ivana Mládka jevilo navenek poklidně, zajisté se nenudil. Na prahu sedmdesátky přiznal nemanželského syna Mikuláše. Před médii tajil skandál téměř dvacet let.
Ivana Mládka pojilo také dlouholeté přátelství s Waldemarem Matuškou. Největším pojítkem pro ně byla jejich společná vášeň pro banjo. Dvojice muzikantů se často vídala i v USA, kde nad půllitrem piva pravidelně rozebírali problémy celého světa a vymýšleli společná řešení.
Na VŠE byl Ivan Mládek spolužákem Václava Klause a později se stal jeho velkým příznivcem a podporovatelem.