遠在五六千年以前霍林河流域就有人類生息，境域內已發(fā)現(xiàn)數(shù)十處屬舊石器時代和新石器時代人的居住遺址。
春秋戰(zhàn)國時期，屬東胡人游牧地。
兩漢時期，為鮮卑人牧地。
三國時期，是東部鮮卑游牧地。
東晉時期，是契丹人轄地。
南北朝時期，為地豆于人居住地。
隋朝時期，為霫人轄地。
唐朝初期，仍為霫人轄地。
唐末，契丹人耶律阿保機統(tǒng)一契丹各部。
遼朝時期，屬上京道臨潢府轄地。
金朝時期，為臨潢府統(tǒng)轄地。
金末，蒙古人興盛，金朝為防御蒙古人南下，修筑總長近萬里的金界壕。
元朝時期，屬中書省全寧路管轄。
明朝時期，屬努爾干都司泰寧衛(wèi)轄地。
清朝時期，屬哲里木盟科爾沁左翼中旗轄地。
民國初期，仍屬哲里木盟科爾沁左翼中旗轄地。
民國二十一年（1932年）5月，偽滿洲于設興安總省，下轄東西南北四個分省，市境屬興安南省管轄。
民國三十三年（1944年）8月，劃歸科爾沁右翼中旗管轄。
民國三十八年（1949年）8月29日，今市境劃歸扎魯特旗，為扎魯特旗北部三個努圖克（鄉(xiāng)）的游牧夏營地。
1969年3月，中國人民解放軍北京軍區(qū)內蒙古生產(chǎn)建設兵團第六師五十一團四連開進霍林河（五七鎮(zhèn)）。
同年7月，劃歸吉林省。
1970年1月，正式組建內蒙古生產(chǎn)建設兵團第六師五十七團。
1979年7月，復歸內蒙古自治區(qū)。
1981年10月，為支援霍林河煤田建設，哲里木盟設立霍林河辦事處，行使旗縣級政府職能，并籌備建市。
1982年2月，霍林河辦事處正式掛牌辦公。
1985年11月9日，國務院批準成立霍林郭勒市（旗縣級），隸屬哲里木盟。
1999年1月13日，國務院撤銷哲里木盟建制，成立通遼市（地級），霍林郭勒市由通遼市代管。