Basu blev valgt til Bengals lovgivende forsamling i 1946, hvor han deltog i valgkampen om jernbaneområdet. Han tjente som oppositionsleder i lang tid, da Dr. Bidhan Chandra Roy var statsminister i Vestbengalen. Jyoti Basu førte en række agitationer mod staten og tjente misundelsesværdig popularitet som politiker, især blandt studerende og unge. Udover at organisere bevægelserne for jernbanearbejderne, førte han en bevægelse af lærerne, der krævede en lønforhøjelse. Da det indiske kommunistparti blev splittet i 1964, blev Basu en af de første ni medlemmer af politbureauet i det nydannede kommunistiske parti i Indien (Marxist).
I 1964