Provalov blev indkaldt til den Røde Hær i september 1928. I 1929 dimitterede han fra regimentskolen i 39. Rifle Division's 117. Rifle Regiment. Provalov blev assisterende bataljonschef og kæmpede i
Sino-sovjetisk konflikt om den kinesiske østlige jernbane mellem september og november. Han blev såret under kampene. I 1930 blev han medlem af Sovjetunionens kommunistiske parti. Provalov dimitterede fra Irkutsk Infantry School i 1931. I december samme år blev han bataljonschef i regimentet. Han blev derefter kompagnichef og senere kommanderede divisionens separate maskingeværs kompagni. I 1933 dimitterede han fra Omsk Military School. I november 1937 blev Provalov stabschef for 40. rifledivisionens 120. rifleregiment. Han blev regimentschef i juli 1938.