Holley begyndte sin militære karriere i besættelsen af Araucanía i Arauco-krigen. Ved begyndelsen af Stillehavskrigen blev han udnævnt til næstkommanderende for regimentet "Esmeralda", da det blev oprettet efter opdelingen af den ældre "Carampangue" i maj 1879. I denne stilling deltog Holley i slaget ved Tacna
- Hvad? Han blev forfremmet til kommandør for regimentet, da dets tidligere kommandør, Santiago Amengual, blev udnævnt til chef for den første division i Lima-kampagnen. Holley kæmpede i Slaget ved Chorrillos (Slaget ved San Juan) og Slaget ved Miraflores, hvor hans regiment led store tab. Efter erobringen af Lima og den chilenske besættelse af Lima forblev han i Peru med Esmeralda-regimentet og deltog i Breña-kampagnen (Sierra-kampagnen).