I 1938 forlod Graf Europa via Holland og ankom til New York i juli. Mirjam Sachs fulgte efter ham, men hans kone og barn forblev i Tyskland. I oktober 1938 blev han udnævnt til præsident for den tyske amerikanske forfattereforening. I 1942 grundlagde han sammen med Wieland Herzfelde og andre emigrerede tyske forfattere det tysk-sprogede forlag Aurora-Verlag i New York, der betragtes som efterfølgeren til Malik-Verlag.
New York City