Z ločitvijo enajstih južnih držav in izbruhom državljanske vojne se je Miller pridružil vojski Unije. 27. avgusta 1861 ga je guverner Oliver P. Morton imenoval za polkovnika 29. pešadijske enote Indiane. Po usposabljanju je bil polk dodeljen Kirkovi brigadi v diviziji Alexandra M. McCooka v Buellovi vojski Ohia in odpotoval v Tennessee. Miller je bil v akciji na drugi dan bitke pri Shiloh
, kot tudi med naslednjim obleganjem Korinta. Miller je vodil svoj polk skozi severno Alabamo in Tennessee in preganjal Braxtona Braggja skozi Kentucky. Miller je poveljeval brigadi pod Jamesom Negleyjem med bitko pri reki Stones konec decembra 1862. Na drugi dan bitke je Miller vodil nasprotni napad zveznih sil čez reko Stones, ki je odbil napad konfederacije Johna C. Breckinridgea. Med napadom je bil Miller ranjen v vrat.