Marek Jarolím se narodil 21. května 1985 v Olomouci, s fotbalem ale začal v pražské Spartě. Je synovcem známého trenéra Karla Jarolíma a bratrancem někdejšího reprezentanta Davida Jarolíma. Poprvé se do A Týmu podíval v sezoně 2004/05 v dresu Mladé Boleslavi.
Marek Jarolím poté v roce 2005 přestoupil do Viktorie Plzeň, kde byl až do roku 2008, to ho jeho strýc přetáhl do pražské Slavie. Byl u dvou ligových titulů týmu. Kvůli neshodám se strýcem ale z klubu odešel. Stal se tak po Erichovi Brabcovi druhým hráčem, který měl neshody s trenérem Karlem Jarolímem. V letech 2009-2012 hrál za Baumit Jablonec, poté následovala sezona v Teplicích.
Marek Jarolím se v roce 2013 vydal na první zahraniční angažmá. Nejdříve zamířil do čínského týmu Chang-čou Greentown FC, kde ale za necelé 4 měsíce odehrál jen 5 utkání a v srpnu 2013 v mužstvu předčasně skončil. V září 2013 podepsal roční smlouvu s řeckým druholigovým klubem Iraklis Soluň. Po dohodě s klubem ukončil smlouvu v lednu 2014 a připojil se k českému týmu FC Slovan Liberec.