Skriv en fortsættelse til dette afsnit - Den 22. august 1861 sluttede Rice sig til den 14. Massachusetts Infanteri og blev udnævnt til kaptajn. Han blev snart overført til det 19. Massachusetts Infanteriregiment for at lede kompagni F. Med denne enhed var han involveret i borgerkrigens slag i: Ball's Bluff, Belejringen af Yorktown, Fair Oaks
Savage Station, Glendale og Malvern Hill. Han blev forfremmet til major den 7. september 1862 og kæmpede ved Antietam senere i september 1862 og slaget ved Fredericksburg den 11.-13. december 1862. For sine handlinger i Slaget ved Gettysburg i at afvise Pickett's Charge, blev han præsenteret med Medal of Honor i 1891. Udnævnt til oberstløjtnant den 28. februar 1864, kommanderede han sit regiment i Rapidan-kampagnen, slagene ved Bristoe Station, Blackburns Ford, Robinson's Cross Roads og Mine Run. Han kommanderede den 19. i slaget om Wilderness den 5.-7. maj 1864 og i slaget ved Laurel Hill den 8. maj 1864. Han blev såret og taget til fange i angrebet på slaget ved Spotsylvania Court House, den 12. maj 1864. Mens han blev transporteret som fange den 23. maj, undslap han ved at skære døren af en godstogvogn og springe ud af den, mens toget kørte med 15 mph. Han nåede Unionens linjer, nær Ohio-floden, treogtyve dage senere. Han blev forfremmet til oberst den 28. juli 1864.