Hardee je 31. januarja 1861 odstopil iz ameriške vojske, potem ko se je njegova matična država Georgia ločila od Unije. 7. marca se je pridružil vojski Konfederacije kot polkovnik in dobil poveljstvo nad utrdbami Morgan in Gaines v Alabami. Kasneje je bil povišan v brigadni general (17. junija) in generalmajor (7 oktobra). Do 10. oktobra 1862 je bil eden prvih konfederacijskih generalov. Kot general je bil prvotno zadolžen za organiziranje brigade polkov iz Arkansasa in navdušil je svoje može in sodelavce z reševanjem težavnih problemov z oskrbo in temeljitim usposabljanjem, ki ga je dal svoji brigadi. S tem poveljstvom je prejel vzdevek "Stari zanesljiv". Hardee je deloval v Arkansasu, dokler ni bil poklican, da se pridruži vojski generala Alberta Sidneyja Johnstona v osrednjem Kentuckyju kot poveljnik korpusa. Johnston se je umaknil iz Kentuckyja in Tennesseeja v Mississippi, preden je iznenadno napadel v bitki pri Shiloh
Spomladi leta 1862. Hardee je bil ranjen v roko 6. aprila 1862, v prvem dnevu bitke. Johnston je bil ubit v Shilohu in Hardeyjev korpus se je pred obleganjem Corinta v Mississippiju pridružil vojski generala Braxtona Braggja v Tennesseeju, dokler poveljnik oddelka P.G.T. Beauregard ni evakuiral mesta in se umaknil v Tupelo. Beauregarda je zamenjal Bragg, ki je nato premaknil svojo vojsko v Chattanooga, preden se je odpravil v ofenzivo Konfederacije v Kentuckyju. Ta kampanja se je zaključila z bitko pri Perryvilleu oktobra 1862, kjer je Hardee poveljeval levi kril Braggove vojske.