杀虎口位于右玉县西北35公里处，是外长城一个重要天然关口。它东临塘子山，西侧大堡山，北依雷公山、庙头山，万里长城由东北向西南延伸而去，像个半圆形围墙将杀虎口围在里边，东西两侧山岭崖陡壁立，苍头河由南向北贯穿其中，构成一道宽200多米，长3000多米的天然关隘。
历代王朝都在此屯兵遣将，设置防守。明朝嘉靖二十三年建土堡，万历二年用砖包筑堡墙，方圆二里，高三丈五尺，南门一座。万历四十三年又筑新堡一座，并于两堡中间，门东西筑墙，将新旧两堡合二为一，前后左右开门四座，周围五百四十丈，计三里。新旧两堡相依，北面通往内蒙，设有栅门，恰与万里长城之城头堡相连，地势十分险要。自从明王朝与蒙古靴靶部落议和通商以后，杀虎口又成为中原与塞外的集易中心，商贾辐揍，店铺林立。
杀虎关古称参合口，唐朝称白狼关，宋朝称牙狼关。明朝为了抵御蒙古瓦刺南侵，多次从此口出兵征战，故而起名“杀胡口”。自从明朝隆庆五年，蒙汉“互市”以来，化干戈为玉帛，杀胡堡、得胜堡、新平堡（天镇）马市重新开放，为了缓和矛盾，遂改名为“杀虎口“。
杀虎关古称参合口。明朝为了抵御蒙古瓦剌南侵，多次从此口出兵征战，故而起名“杀胡口”。自从明朝隆庆五年，蒙汉“互市”以来，化干戈为玉帛，杀胡堡、得胜堡、新平堡（天镇）马市重新开放。1925年冯玉祥率领的国民军进驻“杀胡口”。是年，冯玉祥任命其十三太保之一的韩多峰为杀胡关镇守使。韩为了缓和--，促进中原地区与塞外的贸易，遂沿袭自清朝以来的俗称，正式改名为“杀虎关”。两千年来“杀虎口”战火绵延不断，特别是在明正统至嘉靖年间，先后多次被蒙古军队攻下来。清朝以后，这里成了“走西口”的必经之路。
杀虎口两侧高山对峙，地形十分险峻，其东依塘子山，西傍大堡山，两山之间开阔的苍头河谷地，自古便是南北重要通道，至今大同至呼和浩特的公路，仍经由此地。
杀虎口关城是明嘉靖二十三年(公元1544年)土筑，万历二年(公元1574年)砖包，城周为1公里，高11.7米。明万历四十三年(公元1615年)在杀虎口堡外另筑新堡1座，名平集堡，其长、宽、高、厚与旧堡皆同，两堡之间又于东西筑墙相连，成倚角互援之势。
关于杀虎口及右玉城在明朝时的重要性，由代宗颁赐水陆神祯一事足可看出。代宗朱祁钰是英宗被蒙古瓦剌俘去后继位的，他为祈祷上苍保英宗安全回来，许愿如打败瓦剌，英宗回来，愿将“水陆神祯”御赐给朔平府右玉县。后来于谦组织的京都保卫战取得胜利，英宗被释，代宗遂派臣将“水陆神祯”颁赐给右玉，以谢神灵。“水陆神祯”就是皇宫中库藏的120幅稀世珍品，名贵的绘画。据说这些画多出自大唐贞观年间吴道子和阎立本之手。现在残存的部分珍品收藏在山西省博物馆内。
杀虎口和右玉城做为军事要塞，自古战火不断，特别是在明正统至嘉靖年间，先后多次被蒙古军队攻下来。但在嘉靖三十六年(公元1557年)的一场战争中，守军却在左右无援的情况下，孤军奋战，坚守右玉城，长达8个月的时间，这在中国战争史上也是不多见的。
这场战争起因于“桃松寨事件”。桃松寨是俺答汗之子辛爱的妾，她与辛爱部下的一个头目鬼混，被发现后慌忙投奔了明朝，当时的大同总督杨顺，为请功邀赏，将其送进京城。辛爱为此率部进攻杀虎口，然后包围了右玉城。杨顺见事情不好，后悔不该收留桃松寨，他向朝廷谎奏，蒙古辛爱部愿用白莲教起义失败后跑过去的汉人交换桃松寨。皇帝同意了放还桃松寨，但辛爱不但未退兵，反又加强了兵力，在进攻右玉城的同时，又向大同、宣府一带长城发起了进攻。
在蒙古兵多次强攻下，右玉城军民浴血奋战，右玉守将在作战中阵亡后，有一位姓尚名表在家休息的武将，自愿担任了右玉保卫战的指挥。他在此异常困难的情况下，除打退敌方进攻之外，还多次抓住有利战机，偷袭敌营。从九月坚持到第二年的四月，右玉城虽未被攻克，但城内军民几乎已绝炊断粮，可充饥的牛马等牲畜也被吃光了。
在形势十分危急的时候，明廷派兵部尚书杨博亲率大军来解右玉之围。蒙古兵见右玉城实难攻下，而明朝援军将至，便自动解除了对右玉城的包围，从杀虎口撤出长城。
这场战争之后，重新加固修缮了杀虎口和右玉城，及杀虎口一带的长城。并增加了守备兵额，大大提高了杀虎口的防御能力。
历史上的“走西口”的故事就发生在杀虎口。
清初，长期镇压农民起义和抗清的战争，造成北方长城以内生产极大破坏，各地田地荒芜，屋宇残破，人丁--。大批山西、陕西、甘肃和部分河北的破产农民、战败的农民起义军，或“携男挈女”或孤身一人，千百成群，背井离乡，冒禁私越长城，“走西口(指山西省杀虎口。后泛指出长城西部各口去内蒙古西部各地)，去归化”“觅食求生”。当时流民由土默特而西，或向蒙民租地垦种，或入大漠私垦，形成“走西口”的迁徙群体。加之清朝对蒙古采取怀柔政策。推行喇嘛教，大兴寺庙，大量招徕山西、陕西、河北工匠和破产农民；明末，遭林丹汗兵祸，丁口锐减的土默特首领小顺义王为补充丁口和苏木(佐)，不分民族破例纳丁编佐，以补足30个苏木(150户丁口为1个苏木)的缺额，山、陕流民纷纷前来加入蒙籍；随着清朝对蒙古封禁政策的松弛和历年遭受严重自然灾害而破产农民队伍的不断流入，“走西口”的人渐由土默特而西至阿拉善、额济纳等旗耕牧就食，至解放前延续不断。解放后才结束了“走西口”的痛苦历史。