Efter udbruddet af den amerikanske borgerkrig meldte Jones sig til Unionshæren. Den 7. juli 1861 meldte han sig til den 37. New York Volunteers, populært kendt som "Irish Rifles", under oberst John H. McCunn. Han var oprindeligt en privat, men blev hurtigt valgt til rang af andenløjtnant af mændene i regimentet. Han var til stede ved det første slag ved Bull Run, kun to uger efter sin tilmelding, men så ingen handling, da enheden blev holdt i reserve. Jones viste "gallant opførsel" i sine første år med regimentet og steg hurtigt i rang til første løjtnant og adjutant den 4. november 1861 og derefter major den 21. januar 1862. Han og "Irish Rifles" sluttede sig senere til general Samuel P. Heintzelmans III Korps, som en del af 3. brigade i 3. division under brigadegeneral Philip Kearny, under halvøkampagnen og deltog i Williamsburg, Seven Pines
og Seven Days kampagnen. Jones var også til stede, da den 37. New York Volunteers, der dengang var tilknyttet den 3. brigade i 1. division af III Corps, var ved det andet slag ved Bull Run. I maj og juni begyndte han at lide af malaria og blev indlagt på hospitalet i Washington, D.C. den 26. september og forblev der indtil slutningen af oktober. Han var også kortvarigt officer for generalmajor Franz Sigel før general Ambrose Burnsides pensionering og reorganiseringen af Army of the Potomac.