Dengan kedatangan Antonio Conte sebagai pelatih baru Juventus, Barzagli menjadi bagian integral dari lini belakang Juventus, dan merupakan salah satu pemain yang paling konsisten di klub, yang memuncak dengan panggilan kembali ke tim nasional. Juventus menyelesaikan musim 2011-12
dengan pertahanan terbaik di Italia dan di Eropa, hanya kebobolan 20 gol dalam 38 penampilan. Barzagli mencetak gol pertamanya untuk Juventus pada 13 Mei 2012, mencetak gol penalti melawan Atalanta di pertandingan liga terakhir musim ini, dalam kemenangan kandang 3-1. Dia membantu Juventus memenangkan 2011-12 scudetto tak terkalahkan, dan 2012 Supercoppa Italiana; Juventus juga membuat final Coppa Italia musim itu. Musim cemerlangnya membuatnya mendapatkan tempat di Tim Serie A of the Year. Pada akhir musim, ia memperbarui kontraknya dengan Juventus sampai 2015.