宋淳熙年間，盧氏從鄱陽遷此建村。
取名“鵬山”。
因諧音演變而成彭山。
中華人民共和國成立前屬嵩市鄉(xiāng)，中華人民共和國成立初屬二區(qū)嵩市鄉(xiāng)。
1952年改為第二區(qū)彭山鄉(xiāng)，1956年撤區(qū)并鄉(xiāng)，并入嵩市鄉(xiāng)。
合作化時由五個初級社合并成一個高級社。
1958年人民公社化，為彭山大隊，1972年大隊遷往外小源，大隊名稱沿用彭山大隊。
1984年體制改革，為彭山村民委員會。
1988年，撤銷村委會，組建村公所，為彭山村公所，作為嵩市鎮(zhèn)人民政府的派出機構(gòu)。
1993年撤銷村公所，為彭山村民委員會，名村沿用至今。