Efter at have modtaget sin Juris Doctor i 1973 fra University of Virginia School of Law, arbejdede Mueller som litigator på firmaet Pillsbury, Madison og Sutro i San Francisco indtil 1976. Han tjente derefter i 12 år i United States Attorney kontorer. Han arbejdede først på kontoret for US Attorney for Northern District of California i San Francisco, hvor han steg til at være chef for den kriminelle afdeling, og i 1982, flyttede han til Boston for at arbejde i kontoret for US Attorney for Massachusetts som en assistent United States Attorney, hvor han undersøgte og retsforfulgte store finansielle svindel, terrorisme og offentlige korruption sager, samt narkotika sammensværgelser og internationale penge launderers. Efter at have tjent som en partner på advokatfirmaet i Boston og Barlow Hill, Mueller arbejdede som litigator hos regeringen indtil 1976.
University of Virginia School of Law