为免除匈奴对赵国边民的袭扰，使匈奴数岁无所得，而赵军则兵强马壮，愿为一战。后人称李牧为“奇才”，并在雁门关建“靖边寺”，纪念其戍边保民的战功。汉武帝继位后，面对匈奴不断猖狂的南犯，着手反击。“猿臂将军”李广在做代郡、雁门、云中太守时，先后与匈奴交战数十次，被匈奴称为“飞将军”。雁门关之称，始自唐初。后经五代十国、宋、辽、金、元约四百余载。明清以后，关城虽屡有重建。
赵武灵王曾进行军事改革，胡服骑射，大败林胡、楼烦的入侵，建立了云中、雁门、代郡。后来，李牧奉命常驻雁门，防备匈奴。为免除匈奴对赵国边民的袭扰，使匈奴数岁无所得，而赵军则兵强马壮，愿为一战。“大破匈奴十余万骑。”其后十余年，匈奴不敢寇赵。后人称李牧为“奇才”，并在雁门关建“靖边寺”，纪念其戍边保民的战功。秦始皇统一六国后，派遣大将蒙恬率兵三十万，从雁门出塞，“北击胡，悉收河南之地”(即河套地区)，把匈奴赶到阴山以北，并且修筑了万里长城。
汉高祖刘邦时期，匈奴围韩王信，韩王信投降，匈奴引兵南逾勾注，直驱晋阳(太原)。
汉武帝继位后，面对匈奴不断猖狂的南犯，着手反击。元光五年(前130)，汉武帝下诏发卒整修雁门关。汉朝名将卫青、霍去病、李广等都曾驰骋在雁门古塞内外，多次大败匈奴，立下汗马功劳。“猿臂将军”李广在做代郡、雁门、云中太守时，先后与匈奴交战数十次，被匈奴称为“飞将军”。
汉元帝时，王昭君就是从雁门关出塞和亲的。从此以后，这一带出现了“遥城晏闭，牛马布野，三世无犬吠之警，黎庶无干戈之役”的安定局面。
雁门关之称，始自唐初。因北方突厥崛起，屡有内犯，唐驻军于雁门山，于制高点铁裹门设关城，戍卒防守。《唐书·地理志》描述这里“东西山岩峭拔，中有路，盘旋崎岖，绝顶置关，谓立西陉关，亦曰雁门关。”
北宋初期，雁门关一带是宋辽(契丹人)激烈争夺的战场。爱国将领杨业(又称杨继业)及其他杨家将士都曾在这里大显身手，为国立功。
在宋太平兴国四年(979)，杨业任代州刺史兼三交驻泊兵马都部署以后，曾多次以少胜多，大败辽兵，当时人们誉杨业为“杨无敌”。
雍熙三年(986)，在雁门附近的战斗中，杨业陷入重困，最后士卒全部覆没，在朔州的陈家谷他自己身负重伤为辽兵所执，宁死不屈，终至绝食为国。
后经五代十国、宋、辽、金、元约四百余载。
元朝设千户所，关城被毁。
明代吉安侯陆享于洪武七年(1374)自监民工筑新关于旧关东北十里处的要道。南距代城县四十余里，北邻广武古城二十一里，地势更为险要。
明清以后，关城虽屡有重建。但随着中国民族统一国家疆域的逐步形成，内长城作为“内边”的作用已经失去，所属的雁门雄关也随之荒废。关城仅在东门、西门、小北门三个门洞和靖边寺前的一对石狮，一副石旗杆，明镌李牧碑石一块，以及寺后的数株青松。