Dari hampir 300 kadet di kelasnya, dan meskipun menyelesaikan semua bagian kursusnya dengan sukses, Gary adalah satu-satunya yang tidak ditugaskan sebagai perwira. Dia percaya bahwa lembaga militer tidak mempercayai apa yang mereka lihat sebagai orang asing dan Yahudi. Pelatihan di Potez 25 dan Goëland Léo-20 pesawat, dan dengan 250 jam waktu terbang, hanya setelah tiga bulan 'penundaan ia menjadi seorang sersan pada tanggal 1 Februari 1940. Luka ringan pada tanggal 13 Juni 1940 di Bloch MB.210, ia kecewa dengan gencatan senjata
Setelah mendengar panggilan radio Jenderal de Gaulle, dia memutuskan untuk pergi ke Inggris. Setelah beberapa kali gagal, ia terbang ke Algiers dari Saint-Laurent-de-la-Salanque dengan Potez. Diangkat menjadi adjutan setelah bergabung dengan Free French dan bertugas di Bristol Blenheims, ia melihat aksi di seluruh Afrika dan dipromosikan menjadi letnan kedua. Dia kembali ke Inggris untuk berlatih di Boston IIIs. Pada tanggal 25 Januari 1944, pilotnya buta, meskipun sementara, dan Gary berbicara dengannya ke target pengeboman dan kembali ke rumah, pendaratan ketiga berhasil. Ini dan wawancara BBC berikutnya dan artikel surat kabar Evening Standard adalah bagian penting dari karirnya. Dia menyelesaikan perang sebagai kapten di kantor London dari Angkatan Udara Prancis Bebas. Sebagai pengamat pembom di "Groupe de bombardement Lorraine" (No. 342 Squadron RAF), ia mengambil bagian dalam lebih dari 25 misi yang sukses, mencatat lebih dari 65 jam waktu udara. Selama ini, ia mengubah namanya menjadi Romain Gary. Dia didekorasi untuk keberaniannya dalam perang, menerima banyak medali dan penghargaan, termasuk Compagnon de la Libération dan komandan Légion d'honneur. Pada tahun 1945 ia menerbitkan novel pertamanya, "Education européenne". Segera setelah dinasnya di perang, ia bekerja di dinas diplomatik Prancis di Bulgaria dan Swiss. Pada tahun 1952 ia menjadi sekretaris Delegasi Prancis di PBB. Pada tahun 1956, ia menjadi Konsul Jenderal di Los Angeles dan berkenalan dengan Hollywood.