通河早在１萬年前新石器時代就有人類活動，伴隨中華文明的開啟，先后有肅慎及其后裔的挹婁、勿吉、女真人在此繁衍生息。
清乾隆二十七年（1762年），吉林將軍上奏朝廷乾隆皇上，以三姓西阿勒楚喀，地勢遼遠(yuǎn)，驛遞不便，請求在巴彥蘇蘇（今巴彥縣）東設(shè)置5個投遞驛站，獲得朝廷準(zhǔn)奏。
即設(shè)置妙葛珊站（一站）、鄂勒果木站（二站）、崇古爾庫站（三站）、富拉渾站（四站）、佛斯享站（五站），奉朱批準(zhǔn)奏。
這是有史以來封建王朝對通河地域最早的命名。
清光緒三十二年（1905）農(nóng)歷十一月二十八日，清吉林將軍達(dá)桂，鑒于依蘭府東部原本荒蕪的五個驛站之地，漢滿住戶已經(jīng)超過6000多戶，人口超過40000人的情形，向清王朝上書“賓洲適中之地為崇古爾庫站，于此處設(shè)知縣一員，名曰大通縣�！鼻骞饩w三十二年（1906）九月一日，清政府設(shè)置大通縣，轄區(qū)面積跨松花江而治：江北有五個驛站之廣，江南有十旗公田局廣袤的土地。
任命科舉進(jìn)士出身的張熙（河北省樂亭人）為首任知縣，縣衙設(shè)在縣境中部的崇古樂驛站（公安社），因驛站有大通河而得名，故名大通縣。
隸屬吉林省依蘭府。
知縣張熙到任后，為便于記憶，把大通縣的行政區(qū)劃稱之為“五社一局”，即在江北五個滿語命名的驛站，從東至西冠以“溫良恭儉讓”：溫和社（妙葛珊站）、良明社（鄂勒果木站）、恭安社（崇古爾庫站）、儉樸社（富拉渾站）、讓仁社（弗斯享站）；稱江南一局為“十旗公田局”。
清光緒三十四年（1908）三月，吉林與黑龍江兩省勘劃疆界，以松花江航道為兩省重新勘界。
通河西部以二道河為大通、木蘭兩縣交界。
東部以小古洞河?xùn)|七里坑為大通、縣依蘭府交界。
同年農(nóng)歷五月二十六日，奉朱批“大通縣江北地方改歸江省管轄”，即將松花江北岸大通縣之地由吉林省轄區(qū)劃為黑龍江省轄區(qū)。
清宣統(tǒng)元年（1909）三月，奉旨，將大通縣松花江南岸之“十旗公田局”所屬之地成立“方正縣”，由大通縣析置，劃歸吉林省轄區(qū)。
1914年，北京政務(wù)府內(nèi)部發(fā)現(xiàn)通河縣與甘肅省大通縣重名而改名為通河縣，沿用至今。
縣公署從崇古爾庫站（三站公安社）西遷至岔林河口，今天的通河鎮(zhèn)。
偽滿洲國大同二年（1932）8月，偽滿洲國將鳳山設(shè)治局設(shè)置為鳳山縣，1939年，偽鳳山縣在抗日聯(lián)軍的打擊下被迫撤銷鳳山縣治，復(fù)歸通河縣。
1934年通河縣劃為偽滿洲國三江�。ㄊ涯舅梗┹爡^(qū)。
1946年6月，中共北滿分局南撤后，通河縣劃歸松江省哈北專員公署轄區(qū)。
1947年8月，通河縣由松江省直轄。
1949年7月，通河縣民主政府改稱通河縣人民政府。
1954年8月，松江省與黑龍江省合并，通河歸黑龍江省直轄。
1956年3月，通河縣隸屬黑龍江省綏化專員公署管轄。
1958年8月，通河縣屬黑龍江省松花江專員公署管轄。
1960年4月，通河縣屬哈爾濱市管轄。
1965年8月，通河縣復(fù)歸松花江專員公署管轄。
1996年12月，松花江專員公署并入哈爾濱市，通河縣由哈爾濱市管轄。