Skriv en fortsættelse til dette afsnit - Fra 1928 til 1938 blev løjtnant Gvishiani tildelt og tog ansvar for forskellige divisioner og afdelinger af hovedsagelig georgiske grene af det sovjetiske hemmelige politiapparat NKVD. Han blev forfremmet til major i 1936 og to år og to forfremmelser senere i 1938 blev han udstationeret som chef for 3. specialdivision i det første hoveddirektorat i Novosibirsk Oblast, hvor han tjente som "kommissær for statssikkerhed 3. klasse". Under den sovjetiske invasion af Manchuriet
I 1945 blev Givishiani tildelt flere dekorationer for at repatriere alle industrielle aktiver fra Manchuriet til Sovjetunionen, hvilket han blev forfremmet til generalløjtnant samme år.