Po padcu Vicksburga je bila Osterhausova divizija premeščena v Tennessee. V kampanji v Chattanoogi je pomagal generalmajorju Josephu Hookeru pri zavzetju gore Lookout. Osterhaus je nato sodeloval v atlantski kampanji, vendar je zaradi mesečnega bolniškega dopusta zamudil ključno bitko pri Atlanti.
-Kaj? Vendar se je vrnil na poveljstvo in igral pomembno vlogo v bitki pri Jonesboroughu. Po zavzetju Atlante je prejel poveljstvo nad XV korpusu, enim od štirih korpusa, v katerega je bila združena vojska, v Shermanovem pohodu na morje. Marca 1865 je bil Osterhaus imenovan za načelnika osebja vojaške divizije zahodnega Missisipija pod poveljstvom generalmajorja Edwarda Canbyja, poveljnika z malo bojnih izkušenj v višjem poveljstvu. Osterhaus je Canbyju služil v bitkah za špansko utrdbo in utrdbo Blakely. Ko je Edmund Kirby Smith predal konfederacijske sile v transmisisipijskem bojišču, je bil Osterhaus poslan kot Canbyjev predstavnik in zato osebno podpisal dokumente v imenu vojske Unije.