I 1937 blev Smith vicepræsident under dannelsen af National Maritime Union, hvilket i sig selv afspejlede en stigning i fagforeningsaktivisme blandt søfolk i kølvandet på Scottsboro Boys-sagen i 1933 og West Coast-stræken i 1934.
(ledt af Harry Bridges's International Longshoremen's og Warehousemen's Union eller ILWU og West Coast Marine Cooks and Stewards eller MCS), efter afviklingen af International Seamen's Union (ISU) og nedgangen i Industrial Workers of the World (IWW eller "Wobblies") i 1920'erne. Ironisk nok kom Smiths navn i forgrunden, fordi han blev retsforfulgt internt af en NMU-komité for ikke at støtte 1934-strejken, men senere rensede fagforeningen.