Jones, ofte kaldt "Jenk", meldte sig i 1862 til 6. Batteri i Wisconsin Volunteer Army. Han deltog i slagene ved Vicksburg, Missionary Ridge, Chattanooga,
Lookout Mountain og Atlanta. Han fik en brækket fod på Missionary Ridge, som krævede, at han skulle gå med en stok resten af sit liv. Hans oplevelser under krigen overbeviste ham om at folk må finde en anden måde at løse deres uoverensstemmelser på. Efter at han var blevet trukket ud af hæren, blev Jones en udtalt pacifist.