早在战国时期，“冠带战国七，而三国边于匈奴”。“匈奴驱驰于楼烦之下”，不断南下侵扰燕赵秦北方 边境，给三国以很大的威胁，迫使燕赵秦三国修筑长城以御之。前３２５－前２９９年赵武灵王北破楼烦、林 胡，筑外长城，与匈奴隔长城相望。前２６５年赵孝成王派李牧守代、雁门郡，以资防备，结果大破匈奴十余 万骑，给匈奴以很大打击，迫使匈奴十数年不敢侵扰赵国的边城。秦统一六国后，前２１５年以头曼为首的匈 奴主开始向外扩张，把矛头指向秦朝的河套一带，被蒙恬率３２万大军打得大败，夺回“河南地”，迫使匈奴 向北退却７００余里，从此“胡人不敢南下而牧马”。秦始皇“筑塞于河上”（在河套一带筑障塞）又移内地 ３万家至河北（今乌加河北）、榆中（今河套东北岸）以实边防。前２１４年又把燕赵秦三国长城连接起来， 重新修缮，并向东西扩展，筑成西起临洮、东至辽东郡的万里长城，派蒙恬拥兵坐镇上郡守卫。其后，匈奴奴 隶主利用秦末农民起义，楚汉战争，中原内乱，北方空虚的时机，南越长城，侵扰燕、代一带，把蒙恬收复的 河南地四十四郡又全部夺了回去，对刚建立的西汉王朝构成极大的威胁。
西汉初期，中原几经战乱，社会经济残破，劳力不足，物资匮乏，国力极度空虚，社会秩序极不稳定。刚 建立的汉王朝面临休养生息、恢复社会秩序的巨大任务，加上地方“异姓诸王”的存在，中央集权尚未确立， 无力抗拒匈奴的不断侵扰，只能采取消极的防御政策。前２０１年秋，冒顿单于围攻马邑（今山西朔县），韩 王信叛降，引冒顿南下攻晋阳（今太原）。前２００年刘邦亲率３２万大军前往抵御，由于轻兵冒进被匈奴４ ０万骑兵包围在平城白登山，七天未能解围。刘邦采用了陈平“奇计”，贿赂冒顿的阏氏（Ｙāｎｚｈī，即 王后）网开一面逃了出来，双方暂收兵。前１９９年，匈奴冒顿单于数度侵扰汉边境，刘邦采纳了建信侯刘敬 的“和亲”政策，想把女儿长城公主嫁给冒顿，利用姻亲关系和赠送礼物阻止匈奴南侵。由于吕后日夜泣曰： “妾唯太子、一女，奈何弃之匈奴！”致使这次和亲没有实现。