Han blev taget til fange i Kentucky og tilbragte tid i Libby fængsel før han blev byttet. Senere kæmpede Coburn og oberst Benjamin Harrison side om side i flere slag under general William Tecumseh Shermans kommando. I løbet af den tid, Coburn og hans tropper var de første i
Atlanta og sikrede byens overgivelse. Der er en stor marker i centrum af Atlanta, hvor byens borgmester overgav byen til Coburn. Han blev indkaldt den 20. september 1864.