Kanon begyndte sin forfatterkarriere i 1995. Hans første roman, "Los Alamos" (1997), blev en bestseller og modtog Edgar Award for bedste første roman i 1998. Yderligere romaner fulgte, herunder "The Prodigal Spy", "The Good German" og "Alibi". Hans historier foregår i perioden mellem Anden Verdenskrig og 1950, og han har ofte brugt en virkelig begivenhed, såsom Potsdam-konferencen eller Manhattan-projektet, som baggrund for en mordsag. Hans romaner er kritikerroste, og kritikere fra "Boston Globe" og "The New York Times" har sammenlignet hans arbejde med Graham Greenes og John le Carré's romaner. En film baseret på "The Good German" blev produceret i 2006, instrueret af Steven Soderbergh og med George Clooney og Cate Blanchett. "Istanbul Passage" er en spion-thriller, der foregår i den by i 1945. "Leaving Berlin" (2015) handler om en amerikansk udlænding, der bliver en ufrivillig dobbeltagent for de amerikanske og østtyske efterretningstjenester under
Berlin luftbroen i 1948-1949.