Mihai Pelin blev født i slutningen af august 1940 i Cernăuți, som var blevet besat
af Sovjetunionen to måneder tidligere. Hans far, Spiridon, var jernbanearbejder, mens hans mor var husmor, og en del af hans familie havde polske og tyske rødder. Under Anden Verdenskrig tilbragte Pelin sin tid sammen med sin bedstemor i Bessarabien sammen med tyske tropper, før han rejste til Bukarest i 1944.