Ben-Zvi aktip dina unit pertahanan diri Yahudi anu diayakeun di Ukraina pikeun membela urang Yahudi nalika pogrom taun 1905, sareng ngagabung sareng partai politik Zionis Poale. Anjeunna hijrah ka Paléstina di 1907, netep di Jaffa, sareng engké taun anu sami mangrupikeun wawakil di Kongrés Zionis di Den Haag. Di dinya anjeunna mimiti pendak sareng Israel Shochat. "Bar-Giora", panaratas rahasia Hashomer, didamel di apartemenna di 1907. Dina taun 1909, anjeunna ngayakeun Gymnasia Rehavia SMA di distrik Bukharim Yerusalem babarengan sareng Rachel Yanait. Patarosan: saha anu ngabantosan anjeunna sareng organisasi?
Rahél Yanait