Končno sedemdesetih je Fergusson postal aktiven v konzervativni politiki. Kot odločen nasprotnik decentralizacije je govoril na konferencah in poskušal prepričati konzervativce, naj se uprejo škotski skupščini; po uspehu te kampanje je bil član kampanje "Škotska pravi ne" za škotsko skupščino.
Referendum o prenosu pristojnosti. Na volitvah v Evropski parlament leta 1979 se je Fergusson boril za volilno okrožje Strathclyde West, ki se je zdelo varno za laburiste, vendar je zaradi padca glasov laburistov bil izvoljen z 1,827 glasov.