夏、商時屬揚州。
西周至春秋時先后屬弦國、黃國。
戰(zhàn)國時先后屬秦弦地、楚國。
秦代屬九江郡。
漢代屬江夏郡。
三國時屬魏國弋陽郡。
晉代屬豫州弋陽郡。
南北朝時先后屬豫州弋陽郡、光城左郡、光州、沙州、豫州廣陵郡、弋州弋陽郡。
隋代屬光州光山縣。
明代屬光山縣云山里。
清代屬光山縣南鄉(xiāng)沙城里柴山保。
1929年夏屬弦南區(qū)。
1932年10月劃歸經(jīng)扶縣箭河區(qū)。
1941年屬箭河鎮(zhèn)。
1947年10月復屬箭河區(qū)。
1947年12月屬新縣箭河區(qū)。
1949年7月劃入沙城區(qū)。
1950年秋屬戴崗鄉(xiāng)。
1953年4月屬五區(qū)四鄉(xiāng)。
1955年8月并入六區(qū)。
1955年10月復屬泗店區(qū)。
1958年5月屬陳祖德鄉(xiāng)。
1958年8月置云山生產(chǎn)大隊，屬紫云人民公社。
1960年屬箭河人民公社。
1961年8月析出戴崗生產(chǎn)大隊，屬陳店人民公社。
1983年5月更名為磨云山村民委員會，屬陳店鄉(xiāng)。