Ved udbruddet af borgerkrigen i 1861 rejste von Vegesack til USA og sluttede sig til Unionshæren. Han blev kaptajn i 58th Ohio Infantry. Samme år blev han forfremmet til major i general John E. Wools stab. Først tjente han i Fort Monroe. Som aide-de-camp (ADC) til Joseph K. Mansfield deltog han i artilleri bombningen af Newport News. I 1862 trak han sig tilbage, men sluttede sig derefter til generalmajor George B. McClellan i hans belejring af Yorktown. Som ADC til Butterfield deltog han i slagene ved Hanover Court House, Seven Pines og Fair Oaks. Han deltog i slaget ved Mechanicsville, Gaines's Mill, Savage's Station
, og Malvern Hill. Vegesack blev udnævnt til oberst i det 20. New York Infantry, det tyske "Turner" regiment. Han fik kommandoen over 3. brigade i general William Farrar Smiths division i 6. hærkorps. Han deltog i det andet slag ved Bull Run. Han erobrede højderne uden for Jefferson, Maryland. Han udviste mod ved Antietam. Vegesack deltog i slaget ved Fredericksburg. I maj 1863 var Vegesacks regiment en del af Joseph Hookers venstre fløj i slaget ved Chancellorsville.