Karpov je predstavljal Sovjetsko zvezo na šestih šahovskih olimpijadah, kjer je Sovjetska zveza osvojila zlati medaljo. Igral je kot prvi rezervni na Skopju 1972.
Zmagal je z 13/15. Leta 1974 je v Niceu napredoval na prvi krog in spet osvojil nagrado s 12/14. V La Valletti leta 1980 je bil spet na prvi plošči in dosegel 9/12. V Lucernu leta 1982 je dosegel 61⁄2/8 na prvi plošči. V Dubaju 1986 je dosegel 6/9 na drugi plošči. Zadnjič je bil v Solunu leta 1988, kjer je na drugi plošči dosegel oceno 8/10. Karpov je na olimpijadi izgubil le dve tekmi od 68 odigranih.