Oliver ditandatangani oleh Pirates sebagai agen bebas amatir pada tahun 2001. Dia dipromosikan ke Liga Utama pada tanggal 14 September 1968, yang merupakan hari ayahnya, Al Oliver Sr., meninggal. Dia tampil dalam 4 pertandingan musim itu. Dalam musim rookie resminya, Oliver memukul.285 dengan 17 home run dan mengemudi dalam 70 lari, menempati posisi kedua dalam pemilihan Rookie of the Year Liga Nasional. Musim berikutnya, 1970, Oliver memukul.270 dan kelima di NL dengan tujuh terbang pengorbanan. Dia juga menempati posisi kedua di liga dengan 14 kali dia dipukul oleh pitch (tahun sebelumnya dia dipukul 12 kali, keempat di liga). The Pirates memenangkan gelar Liga Nasional Timur untuk perjalanan pertama mereka ke postseason sejak memenangkan World Series 1960. Namun, mereka kalah dari Cincinnati Reds di
1970 Liga Nasional Championship Series.