夏、商為萊夷之域，周初，東有莒、西有介，莒南遷后為計。
《膠州志、大事記》載：“周武王十三年（己卯）都于計”（計，即計斤，在今膠州南關(guān)城子村）。
秦，置黔陬縣。
公元529年（北魏孝莊帝永安二年）始置膠州，"領(lǐng)東武、高密、平昌三郡，治東武陵，以膠州名始此"（《學(xué)古編》），此時治所在今諸城市。
隋，立膠西縣。
唐，設(shè)板橋鎮(zhèn)。
宋，復(fù)立膠西縣。
至蒙古太祖二十二年（1227年）置膠州于膠西縣，領(lǐng)膠西、高密、即墨，即現(xiàn)在的膠州市。
至明清，均稱膠州。
民國二年（1913年）改膠州為膠縣，1987年2月12日國務(wù)院（1987）26號文件“撤銷膠縣，設(shè)立膠州市”。