Mobiliseringen i 1870 i begyndelsen af den fransk-preussiske krig placerede ham i spidsen for VIII (Rhinland) hærkorps, der var en del af den første hær under von Steinmetz. Det var hans beslutsomme og energiske ledelse, der primært bidrog til sejren ved Spicheren.
den 6. august, og von Goeben vandt de eneste laurbærer, der blev vundet på den preussiske højrefløj ved Gravelotte den 18. august. Under Manteuffel deltog VIII Korps i operationer omkring Amiens og Bapaume, og den 8. januar 1871 efterfulgte Goeben denne general i kommandoen over den første hær.