Han studerede naturvidenskab og ingeniørvidenskab i de tyske byer Dresden, München og Berlin, hvor han studerede under Gustav R. Kirchhoff og Hermann von Helmholtz. I 1880 fik Hertz sin ph.d. fra universitetet i Berlin, og i de næste tre år forblev han for postdoktorstudier under Helmholtz, der fungerede som hans assistent. I 1883 tog Hertz en stilling som lektor i teoretisk fysik ved universitetet i Kiel. I 1885 blev Hertz professor ved universitetet i Karlsruhe.
Arabisk og sanskrit