Efter at være blevet besejret i oprøret, undslap Caldas af frygt for repressalier til Popayán, men da han fandt ud af, at det var blevet overhalet af de kongelige tropper under kommando af den fremtidige vicekonge Juan Sámano, tog han derefter til provinsen Antioquia. Antioquia havde erklæret sin uafhængighed som "State of Antioquia" eller "Free and Sovereign State of Antioquia". Antioquia-staten havde udnævnt Juan del Corral som diktator, og del Corral hilste Caldas velkommen og udnævnte ham til at oprette en militærskole og som direktør for rifelfabrikker og generalingeniør, samt give ham rang af oberst. Som ingeniør var Caldas ansvarlig for opførelse af bygninger, krudtfabrikker og våbenfabrikker samt møntsmægling. Han underviste også i Ingeniørakademiet i Medellín i 1814. Mellem 1813 og 1814 tog han ansvaret for befæstningerne langs Cauca-floden og installeringen af en riffel- og krudtfabrik. Ved udgangen af 1814 var Nariño blevet besejret og arresteret af den spanske krone, og Bolívar og hans hær havde tvunget Cundinamarca til at underkaste sig De Forenede Provinser. Den føderalistiske generalguvernement, der var etableret i Santafé, var med stigende bekymring for muligheden for en
Efter Spaniens genvinding efter starten af Morillos felttog kaldte han derefter Caldas til at udnævne ham til oprettelsen af en lignende militærskole og til at bygge broer, skyttegrave og befæstninger omkring byen. Han blev sendt til den nordlige hær og til at befæste veje i Quindío.