遠(yuǎn)古時代，古縣鎮(zhèn)處于華夏九藪之一的晉中盆地澤藪地帶，遠(yuǎn)在新石器時代，就有人類在此生息繁衍，古三帝封為邦，公元前556年祁地成為晉大夫姬奚的食邑，在今上下古縣之處，修成祁邑。
公元前514年，因其孫因罪被殺，食邑祁沒有，晉封祁地為鄔、祁、平陵喚陽、涂水、馬首、適匕地，古縣鎮(zhèn)仍在祁境內(nèi)。
晉武帝時，由于河水泛濫，邑城被沖毀，搬遷到祁城，古縣鎮(zhèn)從此為祁縣的一個區(qū)域，隨祁縣而變遷，康熙年間稱大韓都，建國初期為統(tǒng)二區(qū)，1949年屬二區(qū)、四區(qū)，1950年屬二區(qū)37個行政村，1952年屬二區(qū)33個行政村，1953年稱二區(qū)九個鄉(xiāng)，1956年稱子洪鎮(zhèn)胡累鄉(xiāng)、孫家河鄉(xiāng)、小河鄉(xiāng)，1958年稱古縣公社十一個管理區(qū)，1961年稱古縣公社45個生產(chǎn)大隊，1962年為古縣公社23個生產(chǎn)大隊，1984年為古縣鎮(zhèn)。
2000年撤鄉(xiāng)并鎮(zhèn)，任村鄉(xiāng)并入古縣鎮(zhèn)。