夏商時期為淮夷之地。
春秋時期屬宋。
戰(zhàn)國時期屬楚。
秦代屬泗水郡。
漢初始置谷陽縣（今谷陽城遺址）。
東漢時期谷陽縣設(shè)置未變。
北朝東魏武定六年（548），取梁之陽平郡，更名谷陽郡。
隋開皇六年（586），廢高昌縣，降谷陽郡為谷陽縣。
顯慶元年（656），省谷陽縣入蘄縣。
五代十國時期，境域北部先后隸屬后梁、后唐、后晉、后漢的宿州蘄縣，南部先后隸屬吳、南唐的泗州虹縣。
明洪武十二年（1379），割虹縣南八都入鳳陽縣。
清代分屬宿州、靈璧縣、鳳陽縣和懷遠(yuǎn)縣，隸屬安徽省鳳潁六四道（道尹駐鳳陽）之鳳陽府。
1948年11月27日，固鎮(zhèn)地區(qū)解放，置固鎮(zhèn)市。
1949年9月撤銷固鎮(zhèn)市。