Han var advokat i Warm Springs, Virginia, da borgerkrigen brød ud. Han sluttede sig til den konfødererede hær og blev valgt til major i det 13. Virginia Infantry Regiment i maj 1861. Han blev oberst for regimentet efter slaget ved Chancellorsville den 15. maj 1863. Den 30. maj 1864 blev han dræbt i kamp ved slaget ved Totopotomoy Creek.
eller Slaget ved Bethesda Church, som umiddelbart gik forud for Slaget ved Cold Harbor under Overland-kampagnen. Terrill var allerede blevet nomineret til brigadegeneral. Den konfødererede senat bekræftede udnævnelsen den 31. maj 1864 for at rangere fra den 1. juni 1864.