原為牟平縣轄地。
1941年屬牟海行政公署第二區(qū)。
1942年，屬第三區(qū)。
1945年，屬乳山縣黃山區(qū)。
1951年，區(qū)下設(shè)鄉(xiāng)，轄區(qū)設(shè)胡家、萬戶、大史家、小史家、上冊、八里甸、上夼、林家、店子頭9鄉(xiāng)。
1956年，合并為孤山、萬戶、上冊三鄉(xiāng)，屬黃山區(qū)。
1957年7月，撤區(qū)，3鄉(xiāng)直接屬縣。
1958年2至7月，上冊鄉(xiāng)、萬戶鄉(xiāng)先后并入大孤山鄉(xiāng)；9月成立上冊人民公社；12月，乳山縣建制撤銷，劃歸煙臺市。
1960年3月，改屬牟平縣。
1961年10月，重設(shè)乳山縣后，復(fù)屬乳山縣。
1981年，更名為大孤山人民公社。
1984年3月，改建為大孤山鄉(xiāng)。
1989年12月撤鄉(xiāng)，建大孤山鎮(zhèn)，至今。