Členem Sociálnědemokratické strany Německa (SPD) se luterán Olaf Scholz stal v roce 1975. V letech 1978 až 1985 vystudoval práva na Hamburské univerzitě. Řadu let působil v advokacii.
Od března 2011 do března 2018 byl Olaf Scholz vrchním starostou Hamburku. Poté až do prosince 2021 zastával post ministra financí ve čtvrté vládě Angely Merkel, v níž se stal také vicekancléřem.
V době, kdy byl Olaf Scholz ministrem financí a vicekancléřem, se v souvislosti s koronavirovou pandemií Německo podílelo na plánech záchrany hospodářství v Evropské unii, ohlášených tehdejší kancléřkou Angelou Merkel, francouzským prezidentem Emmanuelem Macronem a předsedkyní Evropské komise Ursulou von der Leyen.
V srpnu 2020 byl Olaf Scholz představen jako lídr SPD pro volby do Německého spolkového sněmu. Strana velmi těsně vyhrála před CDU/CSU a Olaf Scholz byl 8. prosince 2021 zvolen spolkovým kancléřem, a nahradil tak Angelu Merkel.
V roce 1998 se Olaf Scholz oženil se stranickou kolegyní Brittou Ernst.