相傳此地為春秋魯國季平子的封邑，故名平邑。
西周為顓臾國地，系魯國附庸。
春秋境內(nèi)設(shè)邱輿邑、武城邑、東陽邑。
秦滅顓臾國，全境屬薛郡。
西漢置南武陽縣和南城縣，并一度置平邑候國和南城候國。
新莽廢平邑候國并入南武陽縣，屬泰山郡，遺址在今平邑縣平邑鎮(zhèn)北10公里武山南麓。
南城縣屬東海郡，遺址在今平邑縣南魏莊鄉(xiāng)南武城地。
后漢今平邑一帶仍為南武陽、南城2縣地，同屬泰山郡。
晉改南城縣為南武城縣，仍屬泰山郡，南武陽縣改屬瑯邪郡。
劉宋改南武城縣復(fù)名南城縣，屬兗州泰山郡；改南武陽縣為武陽縣，也屬泰山郡。
高齊廢南城縣入武陽縣。
隋開皇十八年(598年)改武陽縣為顓臾縣，屬沂州瑯琊郡。
唐貞觀元年(627年)省顓臾縣入費縣，此后，今平邑縣境一直為費縣轄地，并隨費縣隸屬關(guān)系變化而變化。
1940年6月抗日民主政權(quán)以滋(陽)臨(沂)公路為界，將費縣析為費南、費北兩縣；公路以南的西半部地區(qū)為費南縣，是為平邑縣的前身，時屬魯南行政區(qū)；公路以北、汶河以西為費北縣。
1944年1月費南縣改稱費縣。
1946年1月費北與費東2縣合并為蒙山縣。
同年4月費縣改稱平邑縣，屬魯南行政區(qū)第一專區(qū)；溫河縣(原臨費邊縣)則改為費縣。
這時平邑縣下轄8個區(qū)。
1947年8月，平邑縣之第四(臨澗)、第九(山陰)2區(qū)劃歸新設(shè)的白彥縣，費縣(原溫河縣)由吾區(qū)、泗水縣香山區(qū)劃歸平邑縣。
1948年3月香山區(qū)復(fù)歸泗水縣。
同年7月平邑縣屬魯中南行政區(qū)第四專區(qū)(1949年7月改稱尼山專區(qū))。
1950年5月屬滕縣專區(qū)。
1952年3月撤銷蒙山縣，其西部的第一、二、三、四區(qū)共4區(qū)73鄉(xiāng)321村劃歸平邑。
1953年7月撤銷白彥縣，其第十、十一、十二、十三區(qū)共4區(qū)33鄉(xiāng)劃歸平邑縣。
同月平邑縣改屬臨沂專區(qū)。
1967年屬臨沂地區(qū)。
1994年屬臨沂市。