Ketika Wilson tiba-tiba mengumumkan pensiunnya pada Maret 1976, Callaghan mengalahkan lima kandidat lain untuk terpilih sebagai Pemimpin Partai Buruh; ia diangkat sebagai perdana menteri pada 5 April 1976. Meskipun memenangkan mayoritas yang sempit di House of Commons pada pemilihan 1974, Partai Buruh telah kehilangan ini pada saat Callaghan menjadi perdana menteri, dan beberapa kekalahan dan pembelotan pemilihan kecil di bulan-bulan pertamanya memaksa Callaghan untuk mencapai kepercayaan dan perjanjian pasokan dengan Partai Liberal. Sementara ini awalnya terbukti stabil, menyusul perselisihan industri yang signifikan dan pemogokan yang meluas pada tahun 1978-79 "Winter of Discontent", dan kekalahan referendum tentang devosi untuk Skotlandia
, menyebabkan partai-partai kecil bergabung dengan Partai Konservatif untuk meloloskan mosi tidak percaya pada Callaghan pada 28 Maret 1979. Meskipun tetap populer secara pribadi dalam jajak pendapat, Callaghan memimpin Partai Buruh untuk kalah dalam pemilihan 1979 dan digantikan oleh Margaret Thatcher.