Fuldfør følgende sætning: I 1850 besejrede Penniman den siddende demokrat Alexander W. Buel for at blive valgt som whig fra Michigans 1. kongresdistrikt til den 32. kongres, der tjente fra 4. marts 1851 til 3. marts 1853. Han var den første borger fra Plymouth, der blev valgt til Kongressen i USA. Han var ikke kandidat til genudnævnelse i 1852. Han var medlem af den kongres, der mødtes under egetræerne i Jackson, Michigan, den 6. juli 1854 ved organisationen af det republikanske parti i Michigan. Han var delegeret til
1856 Republikanske National Convention fra Michigan.