Von der Gröben blev født i Schrengen, Østpreussen (i dag Linkowo, Polen) og sluttede sig til den preussiske hær i 1806. Han tjente under Anton Wilhelm von L'Estocq i Napoleonskriget 1806/07. I 1812 forlod Gröben den preussiske hær, efter Preussen var nødt til at indsætte hjælpetropper i Napoleons russiske kampagne og sluttede sig i stedet til den kejserlige russiske hær. Han deltog i slaget ved Lützen.
und Bautzen og vendte tilbage til preussisk tjeneste, forfremmet til en Rittmeister i den preussiske Generalstab i august 1813. Von der Gröben blev såret under slaget ved Dresden og kæmpede i slaget ved Kulm og slaget ved Leipzig. I 1814 kæmpede Gröben ved Luxembourg og blev igen såret ved Gué-à-Trème. I juli 1814 blev han forfremmet til major og kæmpede i slaget ved Ligny og Waterloo i 1815. Han blev oberstløjtnant og tjente i den preussiske overkommando ved Rhinen i Koblenz.