Het landklimaat in de Harz is notoir woest. De Brocken lijdt onder een hoge regenval tussen 1500- en 1700mm per Jaar en haar steile kanten worden belaagd door hoge winden. Dit betekent veel regen in de zomer en sneeuwzekerheid in de winter. Het westen en de zuidwestelijke hellingen ontvangen de grootste regenval, terwijl het oosten en noordoosten profiteert van de drogere föhn wind. De toppen van de Harz lijken vaak als eilanden zwevend boven een zee van mist tijdens de winter en herfst.
De Brocken heeft ook te maken met een opmerkelijke vorm van inversie temperatuur. Wanneer de gekoelde lucht in de valleien en vlaktes zinkt, dan zorgt dit voor een stijging van temperatuur op de top. De hoge plateaus trekken soms tot 4 maal meer zon in tegenstelling tot de vlakten.
De hoge regenval stimuleert de groei van zure veengronden en turfrijk heidegebied dat als een enorm reservoir voor het water fungeert.
Op deze manier is de Harz de bron voor talrijke rivieren, zoals de Bode, Ecker, Radau, Oker, Söse, Sieber en Oder. Haar complexe systeem van kunstmatige reservoirs in de dalen is gekoppeld door aquaducten in de valleien die drinkwater naar steden zover als Bremen en Halle voert.
De Unterharz in het oosten heeft een milder klimaat en zachter landschap. Het ligt in de regenschaduw van de hoge bergen.
Weinig regen en relatief veel zon, maar ook wat minder sneeuw in de winter. Het klimaat hier kent een lage luchtvochtigheid, dat prettiger aanvoelt dan het zeeklimaat in Nederland en bekend staat om de heilzame werking bij gezondheidsklachten aan luchtwegen; hart- en vaataandoeningen en spanningsklachten. Van oudsher wordt er gekuurd en er waren verschillende sanatoria.
