I november 1905 valgte de georgiske bolsjevikker Stalin som en af deres delegerede til en bolsjevikisk konference i Sankt Petersborg. Ved ankomsten mødte han Lenins hustru Nadezhda Krupskaya, der informerede ham om, at stedet var blevet flyttet til Tampere i Storhertugdømmet Finland. På konferencen
Stalin mødte Lenin for første gang. Selv om Stalin havde dyb respekt for Lenin, var han meget uenig i Lenins syn på, at bolsjevikkerne skulle stille kandidater til det kommende valg til Statsdumaen; Stalin så den parlamentariske proces som spild af tid. I april 1906 deltog Stalin i RSDLP's fjerde kongres i Stockholm; dette var hans første tur uden for det russiske imperium. På konferencen blev RSDLP - dengang ledet af dets mensjevikiske flertal - enige om, at det ikke ville indsamle midler ved hjælp af væbnet røveri. Lenin og Stalin var uenige i denne beslutning og diskuterede senere privat, hvordan de kunne fortsætte røverierne for bolsjevikernes sag.