公元5世纪初，柔然崛起于大漠。在难以从根本上消除其威胁的情况下，为了防御柔然的侵扰，北魏先后3次大规模修筑长城。《魏书·太宗纪》载：明元帝泰常八年（423）“二月戊辰，筑长城于长川之南，起自赤城，西至五原，延袤二千余里，备置戍卫”。同书卷105《天象志三》亦云：泰常“八年春，筑长城，距五原二千余里，置守卒，以备蠕蠕”。太武帝太平真君七年（446）六月丙戌，“发司、幽、定、冀四州十万人筑畿上塞围，起上谷，西至于河，广袤皆千里”。这两次史书记载均与张家口有关，这也是张家口长城中北魏长城存在的历史证据。长城与当时社会的政治、经济、军事、民族有着密切联系，而北魏王朝是入主中原的少数民族政权中第一个修筑长城的，这对于中华民族融合是有着划时代意义的。北魏政权作为游牧民族在逐渐统一北方的基础上将战略眼光转向了中原地区，其统治者更深知正统和文化认同的重要性，主动汉化并南迁都城，从上至下全面融入中华民族。
蔚县境内畿上塞围遗迹路线。王刚 摄
北魏的长城是在战国赵燕长城和秦汉长城的基础上修筑起来的，但由于这些土筑工程已历经数百年的风雨侵蚀，早已残破不堪，北魏长城在修筑初期起到了一定的作用，但作为单一的防线无法长久地阻挡柔然的骚扰和南侵，必须依托于军镇，构成统一的防御体系才能充分发挥它的作用。在明元帝下令修筑长城之后十年，北魏政权先后设立沃野、怀朔、武川、抚冥、柔玄、怀荒等六镇，其中柔玄和怀荒两镇均在张家口境内。
蔚县南山北魏长城。王刚 摄
张北坝头被北魏长城利用的秦长城遗迹。王刚 摄
对于长城来说，主要是利用其地基和路线，城墙多须重新建筑工程量很大但在防御思想上缺乏质的突破，只是在六镇为主的基础上辅以防御，这也是北魏长城遗留痕迹弱化的主要原因，其在张家口境内修筑的长城之后又被北齐和明长城加以利用，特别是明长城材料升级、防御设施升级、战略纵深升级（在重要地段修筑多道长城），因此目前我们所能看到的均为明长城，北魏长城已经无迹可寻，只能寄希望在将来的考古挖掘中寻找相关证据。