Gillman blev uddannet på Dulwich College og blev indsat i Royal Field Artillery i juli 1889. Han blev forfremmet til løjtnant den 27. juli 1892, og til kaptajn (overordnede til etableringen) den 9. oktober 1899. Han deltog i Anden Boerkrigen 1899-1900, hvor han deltog i Relief of Kimberley, og de følgende slag i
Paardeberg (slutten af februar 1900), Poplar Grove og Driefontein (marts 1900). I slutningen af 1901 var han i det sydlige Nigeria, hvor han var tilknyttet som stabofficer til kolonnerne, der deltog i Aro-Anglo-krigen (november 1901 til marts 1902), hvor han blev nævnt i depatcher af den øverstbefalende officer som en "uvurderlig officer, kølig og fuld af energi". Han blev også udnævnt til Companion of the Distinguished Service Order (DSO) for tjenester under krigen. I maj 1902 modtog han en regelmæssig udnævnelse som kaptajn for 119 Batteri af Field Artillery. Han tilbragte senere tid i det sydlige Nigeria i 1902.