明朝嘉靖五年（1526）为固原总兵王宪监筑，已有500多年的历史。
当年该城筑于长城外，是一座关城。由于关城紧靠边墙而筑，初名叫长城关，后由于担任固原总制的官吏每年秋季巡察边防总是到此关下马休息，就改名下马关。
这座古老的城池周长五华里七分，四周城墙皆由大青砖包砌，高12米、底宽8米、顶宽米，有炮台8座、雉堞700多个，南北箭楼俱备，易守难攻。
红军西征的消息传到宁夏，豫旺县县长董天祥疯狂叫嚣要在下马关与红军决一死战。
马鸿逵的骑兵第四团二营营长孔庆福率300多人的骑兵营（即红马营）进驻下马关协助守城。在红军到达之前，董天祥、孔庆福就命令各村交粮送草，坚壁清野，还抓了1000多壮丁修筑工事，并且命令壮丁队在城墙上堆积柴火，以防红军架云梯攻上城墙。
红军到达下马关的当天，就从外围将下马关城包围起来，因考虑城内百姓和无辜壮丁，采用围而不打的战术，发动政治攻势瓦解敌人。敌军先依托城外的民房和寺院进行抵抗，马鸿逵还派来飞机助战，在南关投掷炸弹，给城内守军投送弹药。豫旺县民政科长白鸿剑用白灰在城内的地面上写了“南关大寺住我军，其他各家住匪人”的大字。敌军飞行员将这一情况向马鸿逵报告后，马鸿逵命令下马关守军强行放火烧毁了东门、北门外的1000多间民房，而且推倒了许多民房的墙，毁掉掩体，敌军也缩进城内。
下马关城内没有水井，百姓常到城外取水，红军围城时，董天祥不许任何人出城取水，强迫壮丁在城内日夜掘井，很快就挖了一口十几丈深的水井。董天祥得知城内挖出水来，更狂妄，立刻把这个情况报告了马鸿逵，声称“天赐掘井成功，从此可以与城共存亡”，他狂叫“要和红军决战到底”，威逼士兵“谁不效力，立即枪毙”。但董天祥的威逼，经不住红军的政治攻势和兵临城下的震慑，敌人军心涣散，十分恐慌，几乎每天都有官兵跑出城或投降红军，多数官兵已经不想再打了。
红七十五师师长、政委召集会议，将敌我双方情况做了比较：
现在我方有2000余人，是敌人兵力的两倍多；虽然攻城没有重武器，但红军士气高昂，夺取下马关是有保证的。如果再拖下去，万一敌人觉察到红军的意图逃跑了，不仅红军步兵追不上敌人的骑兵，而且歼敌和缴获物资的数量也会大大减少（那时红军的装备供给几乎靠缴获来补充）。
会议当即命令部队抓紧做好强攻准备，坚决将守敌围歼在城内。
军团长徐海东、政委程子华听取了他们关于下马关城内敌情分析和战斗准备情况的汇报后，当即批准了陈师长他们的要求。
6月27日晚。风雨潇潇，夜色漆黑，红军各攻击分队均进入指定地域。晚9时整，攻城战斗正式打响。为了给敌人造成红军突破其弱点的错觉，红军首先以猛烈的火力攻击南门和西门，东门和北门只响起微弱的佯攻枪声。
敌人果然中计了，一个多小时后，红军发现敌军在西门和南门多增加了3挺机枪火力点，步枪火力也有所增加。