汉高祖刘邦时期,匈奴围韩王信,韩王信投降,匈奴引兵南逾勾注,直驱晋阳(太原)。
汉武帝继位后,面对匈奴不断猖 雁门关 狂的南犯,着手反击。元光五年(前130),汉武帝下诏发卒整修雁门关。汉朝名将卫青、霍去病、李广等都曾驰骋在雁门古塞内外,多次大败匈奴,立下汗马功劳。"猿臂将军"李广在做代郡、雁门、云中太守时,先后与匈奴交战数十次,被匈奴称为"飞将军"。
汉元帝时,王昭君就是从雁门关出塞和亲的。从此以后,这一带出现了"遥城晏闭,牛马布野,三世无犬吠之警,黎庶无干戈之役"的安定局面。
雁门关之称,始自唐初。因北方突厥崛起,屡有内犯,唐驻军于雁门山,于制高点铁裹门设关城,戍卒防守。《唐书?地理志》描述这里"东西山岩峭拔,中有路,盘旋崎岖,绝顶置关,谓立西陉关,亦曰雁门关。"
北宋初期,雁门关一带是宋辽(契丹人)激烈争夺的战场。爱国 雁门关将领杨业(又称杨继业)及其他杨家将士都曾在这里大显身手,为国立功。
在宋太平兴国四年(979),杨业任代州刺史兼三交驻泊兵马都部署以后,曾多次以少胜多,大败辽兵,当时人们誉杨业为"杨无敌"。
雍熙三年(986),在雁门附近的战斗中,杨业陷入重困,最后士卒全部覆没,在朔州的陈家谷他自己身负重伤为辽兵所执,宁死不屈,终至绝食为国。
后经五代十国、宋、辽、金、元约四百余载。
元朝设千户所,关城被毁。
明代吉安侯陆享于洪武七年(1374)自监民工筑新关于旧 关东北十里处的要道。南距代城县四十余里,北邻广武古城二十一里,地势更为险要。
明清以后,关城虽屡有重建。但随着中国民族统一国家疆域的逐步形成,内长城作为"内边"的作用已经失去,所属的雁门雄关也随之荒废。关城仅在东门、西门、小北门三个门洞和靖边寺前的一对石狮,一副石旗杆,明镌李牧碑石一块,以及寺后的数株青松。
1937年9月,中国共产党党为了团结抗日,派周恩来、彭德怀和 雁门关彭雪枫同志,前来雁门山的太和岭口与国民党第二战区司令长官阎锡山会晤。
1937年10月18日,在阎锡山弃关南撤以后,八路军一二零师七一六团挺进雁门关大同公路附近,在此伏击了日军汽车运输队,一举摧毁敌人汽车四百余辆,赢得了震惊中外的大捷。
2001年6月25日,雁门关作为明朝古建筑,被国务院批准列入第五批全国重点文物保护单位名单。