Han blev indkaldt til militærtjeneste den 1. december 1914, og udgav sin første fortælling et år senere, i 1915, i tidsskriftet Die Freie Straße. I 1916 blev Graf næsten stillet for krigsretten for at have nægtet at udføre en befaling. Men efter en ti-dages sultestrejke blev han i stedet sendt til et psykiatrisk hospital og senere løsladt fra militæret.
I 1916