Gibson blev involveret i politik som medlem af Whig-partiet med stærke anti-slaveri synspunkter. Under den amerikanske præsidentkampagne i 1844 holdt han stump taler for Henry Clay på grund af Whig-partiets platform, der var imod at optage Texas i Unionen, fordi det var en slavestat. I den amerikanske præsidentkampagne i 1848 støttede Gibson Whig-kandidaten, "Rough and Ready" General Zachary Taylor. Men han var bekymret for Whigpartiets manglende modstand mod afskaffelsen af slaveriet og besøgte personligt Henry Clay i hans hjem i Ashland, Kentucky i 1848 for at diskutere dette spørgsmål. Han tabte som en Whig kandidat til Ohio Attorney General i 1853. I 1853, efter det store nederlag for Whig-kandidaten General Winfield Scott i det amerikanske præsidentvalg i 1852, kastede Gibson sin støtte til Free Soil Party og begyndte at organisere, hvad der ville blive det republikanske parti i Ohio. Han deltog i det første organisatoriske møde i det republikanske parti i foråret 1856 i Pittsburgh. Han var en af de 69 Ohio-delegater (af i alt 600 delegerede fra hele landet), der deltog i den første republikanske nationalkonvention
Det blev afholdt i Philadelphia i juni 1856. I 1856 stillede han op og blev valgt som den første republikaner til at varetage Ohio State Treasurer.