西汉初至明朝时期，区境为历代封建王朝的属地。

大武口，明代被称为“打硙口”，指今大武口沟，意为“打凿石磨的山口”。

“打硙口”，最早见于明弘治《宁夏新志》。到清同治二年五月（公元1863年7月）的文献中，首次出现“达武口”地名。后来又出现过“大硙口”。在此后的文献资料中，“打硙口”、“达武口”等名称混用。

清代，属宁夏府平罗县。道光九年（公元1829年）前，平罗县在贺兰山东麓沿山地区增设四堡，其中有“打硙口堡”（今大武口乡），为全县66堡之一。

宣统元年（公元1909年），打硙口堡已有居民96户，385人。

民国初，沿清制。

民国三十年（公元1941年4月），平罗县将打硙口堡设为县第四乡。

民国三十二年（公元1943年），宁夏建设厅厅长李翰园赴

贺兰山清水沟光华陶瓷厂“视察”，途经大武口村（现大武口乡）时，将该村的“打硙口学堂”改为大武口学堂，并解释“大武口”为武士们曾经在这里打过仗之意。从此，“大武口”这个名称被作为正式地名开始使用。

1949年9月25日，大武口解放，区境仍属平罗县。

1950年5月，大武口为平罗县第二区（今平罗崇岗乡）一乡。

1956年2月，五区一乡成立新联（今大武口乡）、潮湖、简泉三个高级农业生产合作社。是年7月，平罗县进行撤区并乡工作，将五区一乡改设为大武口乡，成为县直属乡。

1958年9月，全国掀起了大办人民公社的热潮，大武口乡撤销乡建制，将新联、潮湖、简泉三个高级社改为生产大队，划归平罗县崇岗人民公社领导。

1960年7月，宁夏自治区人民革命委员会在石炭井设镇时，曾借用“大武口”这个名称，称“大武口镇”。

1961年5月30日，大武口成立人民公社时，取名“大武口人民公社”。

1963年6月11日，区境由平罗县划归石嘴山市领导。建成区（市区）在沙丘起伏的沙漠，俗称“明沙梁子”。

1966年5月，在大武口公社设办事处。

1968年9月19日，成立大武口镇政府。

1970年10月23日，石炭井地区从大武口镇划出。

1972年2月23日，国务院决定设立银北地区（辖区石嘴山市、平罗县、贺兰县、陶乐县）。

1973年6月18日，宁夏回族自治区革委会决定将大武口镇升格为区。7月10日，召开大武口区成立大会。

1973年8月10日—1974年4月6日，大武口区曾一度改由银北地区直辖，后因没有得到国务院的批准，复交石嘴山市领导。

1975年11月23日，银北地区撤销，石嘴山市（辖平罗县、陶乐县）机关由石嘴山区迁入大武口区。自此，大武口逐渐成为石嘴山市政治、经济、军事、文化、教育、体育、交通邮电、卫生中心。

1975年12月5日—1981年3月26日，大武口区曾改称“石嘴山市一区”，正式确立了县级区建制，后经地名普查又恢复现名。

1973年6月18日，成立大武口区时，均以“大武口”命名。

1975年12月5日起，曾一度将“大武口区”改为“石嘴山市一区”。

1981年3月26日，通过地名普查，“大武口区”名恢复至今。