Når Wilson pludselig meddelte sin pensionering i marts 1976, besejrede Callaghan fem andre kandidater til at blive valgt som leder af Arbejderpartiet; han blev udnævnt til premierminister den 5. april 1976. På trods af at have vundet et snævert flertal i Underhuset ved valget i 1974 havde Labour mistet dette, da Callaghan blev premierminister, og flere nederlag og afvigelser i hans tidlige måneder tvang Callaghan til at indgå en tillids- og forsyningsaftale med det liberale parti. I begyndelsen viste dette sig at være stabilt, men i kølvandet på betydelige arbejdskonflikter og udbredte strejker i "Utilfredshedsvinteren" i 1978-1979 og nederlaget for Socialdemokratiet i 1978-1979 blev der opstået en
Det var en af de vigtigste årsager til, at de små partier, der sluttede sig til de konservative, vedtog et mistillidsvotum mod Callaghan den 28. marts 1979. Selvom han personligt var populær i meningsmålinger, førte Callaghan Labour til nederlag ved valget i 1979 og blev erstattet af Margaret Thatcher.