相传夏代第七世帝杼迁都于老丘（今开封附近），直至第十三世胤甲才迁至西河，共历6世，成为当时政治、经济中心。开封建城的历史已有3000多年，春秋时期，郑庄公（前743一前701）为向中原拓展，在今城南朱仙镇附近古城村构筑城邑、取名启封（汉初因避景帝刘启讳、改为开封）。此为开封故城。今开封城春秋时为仪邑，战国时为大梁。战国时期，魏国为争霸中原，惠王于六年（前364）由安邑迁都大梁，此为开封有史可考的第一次建都。
魏在大梁共历6君140年，在秦统一战争中于秦王政二十二年（前225）为秦所灭。秦将大梁改置浚仪县。以后浚仪、开封各为县治，互不隶属。直至东魏天平元年（534）设梁州，以浚仪为州治，辖开封县。北周时，梁州改名汴州。
隋炀帝开通济渠，使其与黄、淮沟通，发展水上运输，汴州地位日益显要。唐延和元年（712）开封县并入汴州城内，与浚仪县同列为附郭首县，原古城村的开封城，遂日趋废弛。唐兴元元年（784）宣武军节度使治所由宋州（今商丘）移来汴州，成为唐王朝最强大的藩镇。唐末，宣武军节度使朱温，先是胁迫唐昭宗迁都洛阳，最终废弃唐帝而自立，在开封建立后梁政权。朱温称帝后，升汴州为开封府，称东都，洛阳为陪都，称西都，长安则降为雍州。从此，开封府不断扩大管辖范围，后梁时辖15县。右图为开封保存完好的城门。
至后晋、后汉、后周以及北宋相继在开封建都，开封是为东京，开封府亦扩大，辖18县24镇。开封、浚仪称赤县，其余各县称畿县，浚仪县在宋真宗大中祥符二年（1009）改称祥符县。开封最繁盛的时期是北宋，建都长达167年。公元1127年，为金人所破，毁于兵燹。金人先后在开封扶植张邦昌、刘豫两个傀儡政权，终因人民唾弃而夭折。
金人将开封降为汴京路。海陵王于1153年以开封为南京，作为南进的基地。至1214年宣宗完颜珣受蒙古逼迫，迁都于此，仍称南京。蒙古灭金建元，在全国设立11个行中书省，简称行省。中原地区设河南江北行中书省，这是河南称省之始，省会及路治都设在汴梁路的开封。元末刘福通率农民起义军于龙凤四年（1358）攻占开封建为国都，仅维持了一年零三个月，在元军围攻中又退回旧都安丰。明洪武元年（1368）三月，朱元璋攻下开封，改汴梁路为开封府，改开封为北京作为陪都，不久又撤销开封县并入祥符县，从此结束了一城由二县分治的局面。洪武十一年（1378）又撤销了开封北京称号，并封五子朱橚为周王，镇守河南。
此后一直是河南的省会，清代继之。
1913年废府改道。祥符县改为开封县，属河南省豫东道、开封仍为省会，并为豫东道治所。1914年改豫东道为开封道。1927年废道，1929年成立开封市，市、县同城不相属，开封仍为河南省会。1938年6月，日军占领开封，省会西迁。翌年3月，日伪河南省会由安阳迁来开封。1945年日寇投降，开封复为河南省会。1948年10月，中国人民解放军接管开封， 11月成立开封特别市，仍为省会。开封县政府仍设在市内，1949年5月，开封县政府迁往朱仙镇。1954年10月，省会由开封迁往郑州， 开封变为省辖市。1955年郑州专员公署由荥阳迁至开封，改名开封专员公署，辖开封县等10个县。1983年经国务院批准，实行“市带县”体制，开封专员公署撤销，原辖5县属开封市领导。
开封是中国八大古都之—，文物遗存丰富，城市格局形成较早，古城风貌浓郁，北方水城独特，集中体现了古城悠久的历史传统与丰富的文化内涵。1982年被国务院列为国家历史文化名城。在历史上，开封凭借河湖纵横、灌溉发达、气候温和、交通便利的有利条件，是中国最早开发的地区，其城垣宏大，文化灿烂，古人曾有“琪树明霞五凤楼，夷门自古帝王州”的诗句。特别是北宋时期，开封作为都城东京，是中国政治、经济、军事、科技与文化中心，也是当时世界上最繁华的大都市。其建设规划思想独特，宏大的城垣分外城、内城、皇城，三重城郭，三条护城河。城内交通水陆兼容，畅通无阻。在布局上、打破了封闭性的坊里制，代之以商住开放的街道形式，实行坊市合一，扩大市民阶层，使其人口达到150余万。
因为非农业人口的增加，所以带动了城市手工业与商业的发展，域内外贸易繁荣发达，成为“八荒争凑，万国咸通”的大都市。这一建筑布局。对宋以后封建王朝都城建设影响深远。东京的园林也极具特色。史载东京城宫苑御园、寺观有100余座。“大抵都城左近，皆是园圃，百里之内，并无闲地。”著名的皇家名园“
艮岳”，集中国名岳大山诸特色于—园，园内植奇花珍木，放养珍离异兽，史家称其为中国园林史上承前启后的杰作。开封有众多的文物古迹、包括国家级文物保护单位13处，省级38处，市级26处，县级136处。闻名遐迩的铁塔、相国寺、延庆观、禹王台、繁塔等，具有较高的历史文化价值。作为河南三大石刻集中地之一，开封馆藏和各名胜古迹中保存着上自汉代、下止民国的各类石刻珍品1000余件，是研究历史、科学技术和书法艺术的宝贵资料。
2005年5月22日的《纽约时报》评论版首次以中文标题“从开封到纽约——辉煌如过眼烟云 Glory is as ephemeral as smoke and clouds”，发表著名专栏作家克里斯托夫的评论文章，介绍开封的历史，对比开封今昔，再次将开封推向世界。2007年4月18日，国民党荣誉主席连战先生及夫人一行来到开封，造访七朝古都各名胜景区景点。