唐時隸屬于閩縣。
宋、元至明代中葉屬懷安縣。
明代下葉和清代歸屬侯官縣。
清末，屬侯官縣西園區(qū)。
民國時期，屬閩侯（林森）縣五區(qū)（新店區(qū)）。
中華人民共和國成立后，1949年12月屬福州市洪山區(qū)。
1952年底屬新店區(qū)。
1955年5月新店區(qū)撤區(qū)建鄉(xiāng)，屬西園鄉(xiāng)七一生產(chǎn)合作社。
1960年3月重建新店區(qū)，屬溫泉公社后山大隊。
1970年2月，西園、后山、桂山、涌田成立東風(fēng)大隊，為紅衛(wèi)(鼓樓)區(qū)東風(fēng)大隊后山生產(chǎn)隊。
1975年5月屬福州郊區(qū)。
1977年屬蔬菜區(qū)，環(huán)城區(qū)。
1982年8月復(fù)歸郊區(qū)。
1984年9月廢社建鄉(xiāng)，更名為后山村設(shè)村委會，屬福州郊區(qū)新店鄉(xiāng)。
1992年后山村屬郊區(qū)新店鎮(zhèn)；1995年后山村屬晉安區(qū)新店鎮(zhèn)。
現(xiàn)后山村委會設(shè)在村西的玄南嶺路。