國(guó)內(nèi)史籍最早記載介休歷史為周代魯隱公五年（前718），曲沃莊伯伐翼，晉翼侯奔隨（在今介休城東），當(dāng)時(shí)為晉大夫士會(huì)食邑。
公元前636年，晉文公返國(guó)賞隨臣，介子推不言祿，與母隱居綿山。
晉文公焚林求賢，子推不出，竟與母抱樹而死。
后，介休即依介子推死于此而得名。
春秋時(shí)期，晉頃公12年（前514）始置鄔縣（在城東10千米今鄔城店一帶）。
戰(zhàn)國(guó)時(shí)期屬魏國(guó)。
秦滅六國(guó)時(shí)，于魏趙邊界休整，之后攻趙，秦代因此置界休縣，與鄔縣同屬太原郡。
西漢屬并州刺史部太原郡。
新莽改界休為界美，東漢復(fù)名界休。
西晉，杜預(yù)臆說界休當(dāng)為介休，晉武帝司馬炎遂改界休為介休，屬西河國(guó)。
北齊天保年間（550），介休縣并入永安縣（即今孝義）。
北周富政元年（578）置介休郡，介休縣屬介休郡。
北周大成元年（579）改介休縣為平昌縣。
隋開皇18年（598）平昌縣復(fù)名介休縣，屬西河郡。
唐武德元年（618）介休郡改名介州縣，屬介州，兼領(lǐng)平遙縣。
五代時(shí)介休縣屬太原府汾州。
元代屬河?xùn)|山西道宣慰司冀寧路汾州。
明代屬山西布政使司汾州。
清代屬山西省汾州府。
1937年介休縣成立抗日縣政府，屬山西省第四行政區(qū)。
1941年屬太岳專署。
1948年介休解放后，屬晉中區(qū)三專屬。
1949年2月屬太原市三專屬，同年9月，屬榆次區(qū)行政督察專員公署。
1950年8月屬榆次專區(qū)。
1958年屬晉中專區(qū)。
1992年2月10日，國(guó)務(wù)院批準(zhǔn)介休縣撤縣設(shè)市，更名為介休市。