中華人民共和國(guó)成立初期為新余縣鵠山區(qū)小步鄉(xiāng)。
1955年成立小步、潢里、水口圩、皂江等9個(gè)初級(jí)社。
1956年轉(zhuǎn)為小步、潢里高級(jí)社。
1958年為新余縣萬(wàn)寶分社小步大隊(duì)。
同年轉(zhuǎn)為蒙山墾殖場(chǎng)小步分場(chǎng)。
1960年劃入上高縣，屬蒙山墾殖場(chǎng)。
1968年屬蒙山公社（場(chǎng)）小步大隊(duì)。
1972年場(chǎng)、社分開(kāi)，為蒙山公社小步大隊(duì)。
1981年由小步大隊(duì)分出為小上大隊(duì)。
1984年為蒙山鄉(xiāng)小上村委會(huì)。
2013年為蒙山鎮(zhèn)小上村民委員會(huì)。