唐武德元年（618年），設(shè)平陵縣（今關(guān)山粟邑廟附近）。
唐武德二年（619年），改平陵縣為粟邑縣。
唐武德年間，粟邑縣屬雍州。
唐貞觀(guān)八年（634年），撤粟邑縣并入櫟陽(yáng)縣。
元至元四年（1267年），隨櫟陽(yáng)縣并入臨潼縣。
明萬(wàn)歷五年（1577年），設(shè)立關(guān)山鎮(zhèn)，為撫民廳駐地。
清雍正八年（1730年），臨潼縣丞移駐關(guān)山。
清嘉慶元年（1796年），設(shè)縣丞署。
民國(guó)二年（1913年），設(shè)縣佐署。
民國(guó)八年（1919年），設(shè)臨潼分縣，管理臨潼縣渭水以北各鎮(zhèn)事務(wù)。
民國(guó)十九年（1930年），分縣廢。
民國(guó)二十三年（1934年），推行保甲制度，關(guān)山設(shè)立聯(lián)保處。
民國(guó)二十九年（1940年），改聯(lián)保為鎮(zhèn)，下轄6保64甲。
1949年5月，改為臨潼縣關(guān)山區(qū)。
1950年4月，設(shè)立臨潼縣第八區(qū)，轄7鄉(xiāng)。
1958年，為相橋公社關(guān)山管理區(qū)。
1961年，撤銷(xiāo)管區(qū)，成立關(guān)山公社。
1984年，改設(shè)關(guān)山鄉(xiāng)。
1987年8月，關(guān)山鄉(xiāng)劃歸西安市閻良區(qū)管轄。
1997年7月，撤銷(xiāo)關(guān)山鄉(xiāng)，設(shè)立關(guān)山鎮(zhèn)。
2002年2月，撤銷(xiāo)康橋鄉(xiāng)，并入關(guān)山鎮(zhèn)。