Fuldfør følgende sætning: I marts 1861 blev Ferguson udnævnt til kaptajn i militsen i South Carolina, hvorefter han blev udnævnt til løjtnant og aide-de-camp til brigadegeneral P. G. T. Beauregard. Han var en af de officerer, der modtog den formelle overgivelse af U.S. Army Major Robert Anderson ved Fort Sumter, hævede det første konfødererede statsflag og udsendte de første vagter ved Fort Sumter. Efter belejringen blev han sendt for at præsentere det første konfødererede flag ramt af fjendens skud til den provisoriske kongres for de konfødererede stater. Han var oberstløjtnant og aide-de-camp til general Beauregard under
Slaget ved Shiloh. Under slaget ved Farmington var han i det 28. Mississippi kavaleriregiment. Han kommanderede enheden, mens han forsvarede Vicksburg, og hjalp med at stoppe angreb foretaget af U.S. Generalmajor William T. Sherman og U.S. Commodore David Porter.