Når nyheden om borgerkrigen nåede Minnesota, sluttede Bloomer og hans fætre sig til Stillwater Guards, en lokal militsgruppe. Guards blev samlet i First Minnesota Volunteer Infantry Regiment ved Fort Snelling den 29. april 1861 og dannede kernen i Company B. Bloomer fik i første omgang rang af korporal og deltog i alle regimentets større kampe indtil slaget ved Antietam. Han blev let såret i hovedet i slaget ved Bull Run. I løbet af
Slaget ved Savage's Station den 29. juni 1862, som var en del af Peninsula Campaign, blev Bloomer forfremmet til farve sergent. Midt i kampen blev standardbæreren dræbt. Bloomer tog farverne og blev adskilt fra regimentet i fem timer. Han gav regimentet farverne tilbage og blev forfremmet for sit mod.