Emil Holub se narodil v rodině městského lékaře Františka Holuba a jeho manželky Anny, rozené Ebertové. Již jako malý žák chtěl být cestovatelem, shromažďoval nerosty, rostliny a hmyz. V dětství četl africký cestopis Davida Livingstona, který jej podle jeho pozdějších slov silně ovlivnil. Studoval německé gymnázium v Praze a později v Žatci. Poté na otcovo přání vystudoval lékařství, ačkoliv on sám by raději studoval přírodní vědy nebo archeologii. 

Za podpory Vojtěcha Náprstka odjel 18. května 1872 na svou první cestu do jižní Afriky, kde podnikl několik výprav. Vyplul z anglického Southamptonu a po krátkém mezipřistání v Kapském Městě se vylodil 8. července v Port Elizabeth. Díky doporučení tamějšího rakouského konzula zde začal pracovat jako lékař v evropských rodinách. 26. srpna 1872 odešel vykonávat lékařskou praxi mezi městy Dutoitspan a Kimberley mezi hledači diamantů. 

V březnu 1873 se Emil Holub přidal ke konvoji místních lovců na dvouměsíční vědecké safari na území bečuánského kmene, kde získal první zkušenosti s domorodci a výstrojí. Sestavil přírodovědnou sbírku, kterou ve dvaceti bednách odeslal Náprstkovi do Prahy.

3. listopadu 1873 vyrazil Emil Holub na druhou vědeckou výpravu se zaměřením na sbírku etnografických materiálů, z níž se vrátil 7. dubna 1874. Probádal východní okraj pouště Kalahari navštívil Šošong, hlavní sídlo kmene Bamangwatů. Zpět se vracel podél řeky Limpopo. 

Na svou třetí, snad nejvýznamnější cestu se Emil Holub vydal 2. března 1875. Cesta, na které zamířil až k Viktoriiným vodopádům, trvala 1 rok a 8 měsíců. Podnikl výpravu k řece Zambezi a zpracoval první detailní mapu oblasti Viktoriiných vodopádů. Dorazil až do Šešeke, hlavního sídla kmene Loziů, kde se setkal s jejich králem Sipopem. Sipopo byl krutý tyran, ale Holuba si oblíbil a poskytl mu prostředky na plavbu po řece Zambezi. Ta však neskončila příliš šťastně, neboť Holub i s domorodcým doprovodem ztroskotal v peřejích, kde se utopily jeho sbírky, cestovní deníky i několik domorodých veslařů. Po tomto neúspěchu se Holub rozhodl k návratu. 5. srpna 1879 se vydal na zpáteční cestu do Evropy. Do Prahy s sebou vzal i dvanáctiletou bečuánskou dívku Bellu, která poté žila v Holubově pražské domácnosti a není známo co se s ní stalo.

Po návratu 18. října 1879 se Emil Holub těšil pověsti celosvětově významného vědce a začal spolu s Náprstkem přednášet po Evropě a psát články. Napsal a vydal první knižní popis Viktoriiných vodopádů, vydaný anglicky v Grahamstownu roku 1879. 

Doma se Emil Holub připravoval na druhou výpravu do Afriky. Na tu se vypravil v listopadu roku 1883 i se svou osmnáctiletou manželkou Rosou Hofovou (1865-1958), s níž se seznámil ve Vídni a šesti muži, které si vybral pomocí konkurzu: Josef Špíral ze Šťáhlav, Antonín Halouska z Rajhradu, Osvald Söllner a Karel Bukač z Vídně, Ignác Leeb z dolnorakouského Harmansdorfu a János Fekete z maďarského Csongrádu. Každý muž z této šestice ovládal alespoň dvě užitečná řemesla. Odvážně naplánovaná cesta měla protnout celý africký kontinent od Kapského města až po Egypt. Na cestě došlo k mnohým nesnázím, jako byl úhyn tažných volů po požití jedovatých rostlin a expedice byla poté odkázána pouze na služby domorodých nosičů. Josef Špíral a Karel Bukač zemřeli na malárii nedaleko Viktoriiných vodopádů. Kvůli špatnému zdravotnímu stavu poslal Holub domů Antonína Halouska. V létě roku 1886 musela být výprava severně od Zambezi předčasně ukončena po boji s Mašakulumby, kteří přepadli Holubův tábor u vesnice Galulongy a zabili Osvalda Söllnera. Zároveň ukradli podstatnou část zásob, zničili sbírky i deníkové záznamy. Holub s manželkou a zbývajícími dvěma pomocníky museli uprchnout na území Tongů. Zde byl Ignác Leeb těžce zraněn levhartem a Holub i jeho manželka vážně onemocněli. V cestě už Emil Holub nemohl pokračovat a koncem září 1887 se vrátil do Čech. Přesto se mu podařilo shromáždit mnoho přírodovědného i etnografického materiálu a poznatků, které byly oceňovány ve vědeckých kruzích u nás, v Německu, Francii a Anglii a uspořádal opět řadu přednášek a zejména velkolepou výstavy ve Vídni v roce 1891 a v Praze v roce 1892, které navštívilo 190 000 návštěvníků, ale pro nízké vstupné skončily finanční ztrátou. Vydal knihu Druhá cesta po Africe- Z Kapského města do země Mašakulumbů.

Emil Holub plánoval ještě třetí výpravu do Afriky v roce 1889. Tentokrát měl zamířit na popud Leopolda II. do Belgického Konga, ale zdravotní stav mu to již nedovolil.

Své bohaté sbírky obsahující na 13 000 exemplářů nabídl Národnímu muzeu v Praze ale byl odmítnut. Tehdejší obrozenci, zaslepeni svou národní identitou, se uzavřeli před světem a budovali svoji falešnou vizi národního muzea. Holub tedy nabídl své sbírky jiným muzeím a zbytek rozdal školám, ve kterých přednášel. Slabou útěchou by mu mohlo být, že stejně dopadaly archeologické a ostatní sbírky, které nebyly českého původu. Naštěstí alespoň část sbírky se podařilo zachovat. 

V roce 1894 odjel na dva roky přednášet do USA. V Africe překonal malárii a další tropické nemoci, které se pak projevily na jeho zdravotním stavu v posledních letech života.

Emil Holub odešel jako chudý a nemocný člověk 21. února 1902 v 55 letech ve Vídni, kde je také pohřben. Bohužel, až při smrti tohoto objevitele nitra Afriky a hodnot lidského života, si na něho opět vzpomněli a vystrojili mu alespoň královský pohřeb.

Manželka Rosa Holubová žila se svou sestrou ve Vídni a několikrát navštívila Československo. V roce 1957 ji ve vídeňském bytě navštívili cestovatelé Miroslav Zikmund a Jiří Hanzelka. Zemřela 28. září 1958 ve věku 93 let a v závěti odkázala zbylé věci po manželovi městu Holice.