Karpov je predstavljal Sovjetsko zvezo na šestih šahovskih olimpijadah, kjer je Sovjetska zveza osvojila zlati medaljo. V Skopju 1972 je igral kot prvi rezervni igralec in z 13/15 osvojil nagrado. Leta 1974 je v Niceu napredoval na prvi krog in spet osvojil nagrado s 12/14. V La Valletti leta 1980 je bil spet na prvi plošči in dosegel 9/12. V Lucernu leta 1982 je dosegel 61⁄2/8 na prvi plošči. V Dubaju leta 1986
Na drugi plošči je dobil 6/9 točk. Zadnjič je bil v Solunu leta 1988, kjer je na drugi plošči dosegel oceno 8/10. Karpov je na olimpijadi izgubil le dve tekmi od 68 odigranih.