Efter at delstaten Mississippi havde løsrevet sig lige før borgerkrigens begyndelse, trådte Barksdale tilbage fra kongressen for at blive generaladjutant, og derefter generalquartermaster, af Mississippi Militia, i rang af brigadegeneral, med datoen for rang 1. marts 1861. Den 1. maj blev han udnævnt til oberst i den konfødererede amerikanske hær i 13th Mississippi Infantry, et regiment, som han ledte i det første slag ved Bull Run den sommer og slaget ved Ball's Bluff i oktober. Det følgende forår tog han sit regiment til Virginia-halvøen og kæmpede i Peninsula-felttoget og Syv-dages slag. Da hans brigadekommanderende, brigadegeneral Richard Griffith, blev dødeligt såret i slaget ved Savage's Station
Den 29. juni 1862 overtog Barksdale kommandoen over brigaden og førte den i et heroisk, men blodigt og meningsløst angreb i slaget ved Malvern Hill. Brigaden blev kendt som "Barksdales Mississippi Brigade". Han blev forfremmet til brigadegeneral den 12. august 1862.