Williamson kom sig i tide til at tage del i Vicksburg-felttoget og den efterfølgende belejring af Vicksburg. Efter byens fald overtog han kommandoen over 3. brigade, 1. division, XV korps indtil september 1863, hvorefter han kommanderede 2. brigade, 1. division, XV korps i slaget ved Chattanooga. Williamson's division, under kommando af Peter J. Osterhaus, blev midlertidigt knyttet til styrkerne under Joseph Hooker og deltog i
Slaget ved Lookout Mountain. Divisionen blev returneret til Army of the Tennessee og Williamson ledte 2. brigade under Atlanta-kampagnen. I slaget ved Jonesborough blev han såret i hånden. Den 19. december 1864 blev han forfremmet til brigadegeneral i U.S. Volunteers, den 13. januar 1865 til brigadegeneral og den 13. marts 1865 til generalmajor i de frivillige. Kortvarigt i løbet af sommeren 1865 havde han kommandoen over distriktet St. Louis og blev udskrevet fra frivillig tjeneste den 24. august 1865, men var på en inspektionstur af hærposter i Vesten og fandt ikke ud af det, før han vendte tilbage i oktober 1865.