Efter at have forladt Gordonstoun i begyndelsen af 1939, Philip afsluttet en periode som kadet på Royal Naval College, Dartmouth, derefter hjemsendt til Grækenland, bor med sin mor i Athen i en måned i midten af 1939. På opfordring af den græske konge, George II (hans første fætter), vendte han tilbage til Storbritannien i september for at genoptage sin træning i Royal Navy. Han dimitterede fra Dartmouth det næste år som den bedste kadet i sit kursus. Under Anden Verdenskrig fortsatte han med at tjene i de britiske styrker, mens to af hans svoger, prins Christoph af Hessen og Berthold, markgrev af Baden, kæmpede på den modsatte tyske side. Philip blev udnævnt til midshipman i januar 1940. Han tilbragte fire måneder på slagskibet, hvor han beskyttede konvojer fra den australske ekspeditionsstyrke i Det Indiske Ocean, efterfulgt af kortere stillinger på, på og i Britisk Ceylon. Efter Italiens invasion af Grækenland
I oktober 1940 blev han overflyttet fra Det Indiske Ocean til slagskibet i Middelhavet.