公元960年，宋太祖赵匡胤夺取后周政权，建立大宋王朝，定都河南开封。考虑到开封“形势涣散，防维为难”，赵匡胤曾拟先迁都洛阳，后迁都长安，但遭到群臣及晋王赵光义极力反对，迁都计划搁浅。自古统治者选择都城主要根据军事、经济、地理位置三方面条件来考虑。军事上要求都城所在地既能制内，又利于御外;经济上要求都城附近地区经济发达，能基本解决都城的物质需要，只需少量仰给于远处;地理位置上要求都城位于王朝管辖范围的中心地区，或有通畅的水陆交通线路通向四面八方。
开封府主要的优势是居“天下之要会”，汴水河渠连接江淮等地，经济富庶，但其缺点是军事上无险可守，难以御外，必须常驻数十万大军以代替山河之险。赵匡胤考虑得比较全面，比群臣和赵光义更有眼光，他认为如继续以开封为都城，“不出百年，天下民力殚矣!”结果不幸而言中。
欲西迁据形胜之地开封位于黄河中游的南岸，地处中原和华北大平原的西部边缘。它北据燕赵，南通江淮，西峙嵩岳，东接青齐。河流在这里作放射状向南北分流，可开凿运河，连接南北河流。因战国时的魏国，五代时的后梁、后晋、后汉、后周以及北宋和金朝后期，都曾建都于开封，所以开封素有“七朝古都”之称。就地理环境而言，自古统治者择都大多选取龙盘虎踞、山河四塞、有险可守的形胜之地，很少选择地势平坦、难以防守之地。而开封偏偏就是一马平川、无险可守的地方。它之所以被统治者看中，关键在于它处在四通八达的“天下之冲”，交通方便，经济富庶，有利于“居中御远”。
早在战国后期，纵横家张仪曾对魏哀王说：“魏地四平，诸侯四通，条达辐辏，无有名山大川之限。”楚汉相争期间，谋士郦食其对刘邦说：“陈留(今开封一带)天下之冲，四通五达之郊。”于是刘邦置陈留郡。唐末和五代时，群雄逐鹿中原，开封的地理位置显得更加重要。唐人韩宏说：“大梁(今开封)襟带河汴，控引淮泗，足以禁制山东。”后唐郭崇韬说：“汴州关东冲要，地富人繁”。石敬瑭对后唐皇帝李嗣源说：“大梁，天下之要会也。”公元936年，石敬瑭灭后唐，建立后晋，两年后便以汴州为东京开封府，定为首都。
随后，后汉、后周相继建都于开封。宋太祖赵匡胤登上帝位时，沿用后周旧制，以大梁为东京开封府，洛阳为西京河南府。赵匡胤不仅是一位雄才大略的军事家，也是一位高瞻远瞩的政治家。在基本平定南方诸国及地方割据势力后，他考虑到开封“形势涣散，防维为难”，曾拟先迁都洛阳，后迁都长安，他说：“吾欲西迁，据山河之胜，以去冗兵，循周汉故事，以安天下也。”但这一打算遭到群臣和其弟赵光义极力反对。
赵匡胤于公元927年在洛阳夹马营出生，因而对洛阳有特殊感情。开宝九年(公元976年)，赵匡胤下诏西幸洛阳祭祀天地，并打算从此留在洛阳。起居郎李符第一个站出来反对，他上书“陈八难”，书中称：“京邑凋敝，一也;宫阙不备，二也;郊庙未修，三也;百司不具，四也;畿内民困，五也;军食不充，六也;壁垒未设，七也;千乘万骑盛暑扈行，八也。”赵匡胤思乡心切，根本不管西行难不难，于同年三月丙子日从开封出发，在众大臣和卫兵簇拥下，浩浩荡荡前往洛阳。
四月，赵匡胤一行到达洛阳，在南郊举行合祭天地大典。此前洛阳地区连续一个月大雨不止，赵匡胤到达后，雨就停了下来，举行合祭大典时晴空万里。大典结束后，当地父老说：“我辈少经乱离，不图今日复见太平天子!”还有人激动得泪流满面。赵匡胤见天公作美，百姓归心，又见洛阳经过重建后宫室壮丽，心情非常愉快，当日下诏大赦，并当面奖励建设洛阳有功的河南府右武卫上将军焦继勋。
两天后，赵匡胤大宴群臣，随意赏赐，君臣共欢。在言谈中，赵匡胤屡称洛阳为形胜之地，居天下之中，流露出欲留居洛阳之意，群臣见皇上兴致正浓，不敢扫他的兴，当时没有谁开口进谏。赵匡胤见大家都不反对，以为迁都之事可如愿进行，却不知群臣虽表面不反对，但大多数人仍不乐意迁都。
迁都是牵涉到国家命运的大事，群臣有意见不可能不提，况且他们知道赵匡胤是非常尊重臣下意见的明君，所以便利用各种机会向赵匡胤进谏。一天，赵匡胤的老部下李怀忠见皇上略有闲暇，便上前进言，他说：“东京有汴渠之漕，岁致江淮米数百万斛，都下兵数十万人，咸仰给焉。陛下居此，将安取之?且府库重兵，皆在大梁，根本安固已久，不可动摇。一旦遽欲迁徙，臣实未见其利。”
就当时形势而言，李怀忠这一番话的理由是很充足的，自后梁建都开封以来，几代统治者便不断开挖运河，以通漕运。尤其是后周世宗柴荣，屡次下诏开挖运河。显德四年(公元957年)四月，世宗下诏疏导汴水北入开封五丈河，使齐鲁舟楫都能到达开封;显德五年(公元958年)三月，下诏开挖汴水口，引导河水达于淮水，使江、淮舟楫畅通无阻;显德六年(公元959年)二月，柴荣命马军都指挥使韩令坤在开封东面疏导汴水入于蔡水，“以通陈颖之漕”，又命步军都指挥使袁彦“浚五丈渠东过曹、济、梁山泊，以通青、郓之漕”。赵匡胤建立大宋王朝后，从建隆二年(公元961年)就着手在开封周围进行大规模水利建设，他首先下令开挖蔡河，使河流直达许镇，以通淮右之漕。第二年，又调集数万民工，从新郑引闵水与蔡河汇合，使蔡河经陈、颖直达寿春。同年，又在开封城北进一步开挖五丈河和金水河，增加流量。
经不断疏浚和开凿后，基本形成以开封为中心的运河系统。江南之粟由江入淮，经汴水入京;陕西之粟由三门峡附近转黄河，入汴水达京;陕西之粟由三门峡附近转黄河，入汴水达京;陕蔡之粟由惠民河转蔡河，入汴水达京;京东之粟由齐鲁地区入五丈河达京。使开封便于取得全国各地的粮食和物资，解决首都开封数十万禁军和百万居民的粮食和物资供给问题。这在当时是建都长安或洛阳都无法办到的。所以赵匡胤认为李怀忠的意见确实有道理，但即便如此，仍改变不了赵匡胤迁都的决心。