Han blev født i Tournai, søn af Robert Murray, general i den hollandske hær. Han tjente som oberst i Los Rios Regiment i den østrigske tjeneste og som kejserlig kammerherre. For hans mod ved slaget ved Breslau
I 1757 og slaget ved Hochkirch i 1758 blev han udnævnt til ridder af Maria Teresia-ordenen den 23. januar 1760. Den 16. september 1760 blev han udnævnt til baron af Holland ("Baron aux Pays Bas") og den 25. november 1761 udnævnede kejser Frans I ham til greve af Det Hellige Romerske Rige som "Graf von Murray", med resten til hans mandlige arvinger.