Ketika konvensi negara bagian berkumpul pada bulan April 1880, Randall yakin akan kemenangan, tetapi segera menemukan bahwa faksi Wallace lebih banyak dari miliknya. Mayoritas Wallace menggerakkan organisasi partai di Philadelphia dan, meskipun beberapa pendukung Randall menerima kursi, mayoritas berutang kesetiaan kepada senator. Meskipun kekalahan, Randall terus untuk Tilden, baik di Pennsylvania dan di tempat lain. Ketika desas-desus beredar bahwa kesehatan Tilden akan mencegahnya dari mencalonkan diri lagi, Randall tetap menjadi pria Tilden yang setia sampai konvensi nasional
Juni itu. Setelah pemungutan suara pertama, delegasi New York merilis surat dari Tilden di mana ia menarik diri dari pertimbangan. Randall berharap para mantan delegasi Tilden bersatu dengannya. Banyak yang melakukannya, dan Randall melonjak ke tempat kedua pada pemungutan suara kedua, tetapi momentum telah bergeser ke kandidat lain, Mayor Jenderal Winfield Scott Hancock. Hampir semua delegasi beralih ke Hancock, dan dia dinominasikan.