I maj 1888 forlod Sarmiento Argentina for at tage til Paraguay. Han var ledsaget af sin datter, Ana, og hans ledsager Aurelia Vélez. Han døde i Asunción den 11. september 1888 af et hjerteanfald og blev begravet i Buenos Aires. Hans grav på La Recoleta kirkegård ligger under en skulptur, en kondor på en pylon, designet af ham selv og udført af Victor de Pol. Pedro II, Brasiliens kejser og en stor beundrer af Sarmiento, sendte til hans begravelses procession en grøn og guld krone af blomster med et budskab skrevet på spansk, der mindede om højdepunkterne i hans liv: "Civilization and Barbarism, Tonelero, Monte Caseros
, Petrópolis, Folkeskolen. "Hommage og hyldest fra Pedro de Alcântara".