Gruelle er bedst kendt for sine landskabsmalerier samt sin bog "Notes: Critical and Biographical: Collection of W. T. Walters" (1895). Gruelles kunst fra den tid han tilbragte i Gloucester, Massachusetts, er blandt hans bedste, især hans akvareller. Blandt hans mest bemærkelsesværdige malerier var en række marine scener, der inkluderede "The Drama of the Elements". Gruelles mesterværk, "The Canal Morning Effect" (1894), er et maleri af Indianapolis skyline fra den sydlige side af byens Military Park. Kunstforeningen i Indianapolis erhvervede hurtigt maleriet, og det er stadig i Indianapolis Museum of Art. Gruelle udstillede kun lejlighedsvis sine værker på nationale udstillinger, med to bemærkelsesværdige undtagelser. Han udstillede på Society of Western Artists årlige udstillinger og i 1904 på Louisiana Purchase Exposition
I Saint Louis, Missouri. Gruelle foretrak one-man shows, der blev afholdt i Indianapolis, Indiana, og i New Canaan, Connecticut.