Skriv en fortsættelse til dette afsnit - Ved udbruddet af borgerkrigen blev Osterhaus udnævnt til major i 2. Missouri Volunteer Infantry og i løbet af krigens første år var han ansat i Missouri og Arkansas, hvor han tog en iøjnefaldende del i Slaget ved Wilson's Creek og Slaget ved Pea Ridge. Ved Pea Ridge kommanderede han de tropper, der først gjorde kontakt med de konfødererede styrker, der rykkede frem på Unionens venstre side. Han blev forfremmet til brigadegeneral den 9. juni 1862. I 1863 kommanderede han en division i slaget ved Port Gibson.
, hvor han viste taktiske evner i at snuse konfødererede forsvarere ud af en gunstig position.