Smith blev født i White Plains, New York. Smith tjente i den amerikanske flåde, og efterfølgende opnåede sin B.Sc. grad fra University of Pennsylvania i 1955 og sin Ph.D. grad fra University of Chicago i 1959 med en afhandling på kun otte sider. Han arbejdede på Bell Labs i Murray Hill, New Jersey fra 1959 til sin pensionering i 1986, hvor han førte forskning i nye lasere og halvlederenheder.
USA's flåde