青冈县一带古代为土著貊人活动地区。
金朝，设有兵站。
元朝，属成吉思汗四弟帖木格斡赤斤的封地。
明朝，属奴尔干都司管辖。
清乾隆四十三年（1778年），将此地划为伊克明安旗游牧，后又全部收回。清政府采取封禁政策，长期将此地指定为围场，除军队和满族达官贵人以及土著少数民族可入境狩猎放牧外。
清咸丰十年（1860年），才开始对汉人开放。
清光绪二十三年至二十八年六年间（1897年~1902年），大批汉族移民从河北、辽宁、吉林等地源源而来，他们凿井建房，开荒种地，饲养畜禽，通肯河西岸人烟日渐稠密，农牧业日见兴盛，已具备设县条件。驻守黑龙江的将军达桂、副督统程德全遂于光绪三十年（1904年）11月3日，向清政府奏请“添设地方各官，以资治理”。奏摺中说：“柞树岗则设知县一员，命名青冈县，并设巡检兼典史事一员，隶海伦厅属”。
清光绪三十年（1904年）12月24日，慈禧太后、光绪皇帝朱批允准这一奏请，青冈县正式建立。
青冈县建立后，除民国十二年（1923年）根据黑龙江省指令划北部与拜泉县接壤的土地120万亩归新成立的明水县外，县境再无变更。[6]
中华民国前期，青冈县划分为5个区。
民国二十年（1931年），“九一八”事变前，在5个区的基础上，将村、屯划为主村、副村（自然屯），青冈县有128个主村，330个副村，每个主村管理若干个副村。
民国二十二年（1933年），青冈县实行保甲制，设5个警察署、5个区、12个保、195个甲。
民国二十五年（1936年），由保甲制改成街村制，青冈县划分为一个街，6个村。