Tevez pertama kali menjadi terkenal bersama Argentina saat bermain di Kejuaraan Dunia U-17 FIFA 2001. Pada Olimpiade 2004 di Yunani, ia memenangkan medali emas - yang pertama Argentina dalam acara apapun sejak 1952 - dan mencetak delapan gol dalam enam pertandingan untuk menjadi pencetak gol terbanyak kompetisi. Ini termasuk pemenang di final melawan Paraguay, dua di babak penyisihan grup 6-0 dari Serbia dan Montenegro, dan hat-trick dalam kemenangan perempat final 4-0 atas Kosta Rika. Tevez mewakili tim senior Argentina di Copa América 2004
, di mana tim mencapai final, hanya untuk kalah dari saingan Brasil di adu penalti; ia mencetak gol di kedua putaran sebelumnya. Dia adalah pencetak gol tertinggi kedua di dunia pada tahun 2004 dalam kompetisi internasional secara keseluruhan dengan 16 gol, satu lebih sedikit dari penyerang Iran Ali Daei.