秦朝時(shí)期，今磴口縣地區(qū)屬九原郡臨河縣轄區(qū)，亦是新秦地（自高闕向西南筑長城至雞鹿塞南）。
西漢初期，為匈奴統(tǒng)轄地。
元朔二年（前127年），朔方郡（治所朔方，在今鄂爾多斯市杭錦旗東北，亦有記載在今縣陶升井麻彌圖古城），其所領(lǐng)10縣中治所在今磴口縣境的就有：窳渾縣（治在今沙金套海蘇木包日浩特嘎查）、臨戎縣（前124年建，治在今補(bǔ)隆淖鄉(xiāng)沙河古城）、三封縣（前126年建，治在今哈騰套海蘇木7千米處陶升古城）等。
甘露三年（前51年），匈奴呼韓邪單于與漢朝議和后，漢遣宮兵護(hù)行，送單于出朔方雞鹿塞（在今沙金套海蘇木哈隆格乃口西沿上的石城）。
有記載，在百年時(shí)間內(nèi)，這里曾是朔方的繁榮而重要的地區(qū)。
東漢時(shí)期，朔方郡治所臨戎（今磴口縣補(bǔ)隆淖鄉(xiāng)境內(nèi)），仍有臨戎、三封縣及雞鹿塞在今縣境內(nèi)，隸屬并州刺史部。
東漢末年至西晉時(shí)期，為河西鮮卑、西部鮮卑政權(quán)所轄地。
東晉十六國時(shí)期，今磴口縣境先后為后趙、前秦、后秦所置朔方郡以及夏統(tǒng)轄地。
南北朝時(shí)期，今縣境基本上屬北魏沃野鎮(zhèn)和夏州轄境。
北周時(shí)期，屬永豐鎮(zhèn)（治所今臨河縣北境）轄區(qū)。
隋朝初期，為豐州轄地。
大業(yè)元年（605年），屬五原郡永豐縣轄地。
唐朝初期，仍屬豐州，隸關(guān)內(nèi)道。
總章二年（669年），今縣境巴彥高勒鎮(zhèn)及沿黃河部分地屬豐州永豐縣，西部和西北部大部分地區(qū)屬呼延都督府管轄區(qū)。
開元二十九年（741年），屬豐州永豐縣及天德軍管轄。
元和十五年（820年），屬豐州和豐州都防御使管轄。
五代時(shí)期，今縣境基本屬契丹遼政權(quán)統(tǒng)轄地。
遼、金、夏時(shí)期，今縣境均為西夏所置黑山威福軍司（治所兀剌海城，今烏拉特中旗境）管轄。
元朝時(shí)期，今磴口縣東南部（巴彥高勒鎮(zhèn)周圍）屬寧夏府路；西部和西北大部屬兀剌海路管轄，均隸甘肅行省。
明朝初期，屬寧夏衛(wèi)。
萬歷十年（1582年），今縣境屬“襖爾都司”。
清康熙二十五年（1686年），今縣境屬阿拉善和碩特蒙古牧地（俗稱王爺?shù)兀?/p>
康熙三十六年（1697年），編入阿拉善和碩特旗轄地。
民國初年，沿襲清制。
民國十五年（1926年），馮玉祥在五原誓師北伐，為便于軍需供給，以原設(shè)“磴口兵站”為基礎(chǔ)，始設(shè)磴口縣治，隸屬甘肅省寧夏道管轄。
民國十八年（1929年）1月，國民政府批準(zhǔn)正式設(shè)置磴口縣，劃歸寧夏省管轄。
民國二十五年（1936年）4月，經(jīng)蒙藏委員會(huì)決定，磴口縣的土地管理權(quán)屬阿拉善旗，行政管理歸寧夏省。
1949年秋，磴口縣獲得解放。
隨后成立磴口縣人民政府，駐三盛公，隸屬寧夏省。
1954年，撤銷寧夏省后，改隸甘肅省巴彥浩特蒙古族自治州。
1956年4月3日，磴口縣隨巴彥浩特蒙古族自治州劃歸內(nèi)蒙古自治區(qū)巴彥淖爾盟。
1958年4月2日，巴彥淖爾盟公署移駐三盛公，磴口縣為盟轄縣。
1960年7月，撤銷磴口縣建制，設(shè)立巴彥高勒市。
1964年7月，撤銷巴彥高勒市，恢復(fù)磴口縣建制，巴彥高勒改為縣轄鎮(zhèn)，縣人民委員會(huì)駐巴彥高勒鎮(zhèn)，隸巴彥淖爾盟。