黑龙江省因境内横亘北部边境的大河流黑龙江而得名。黑龙江，古称“黑水”，满语称“萨哈连乌拉”—“萨哈连”是“黑”的意思，“乌拉”是“江”的意思。14世纪成书的《辽史》始称黑龙江，清初定名为黑龙江。[21] 同时，黑龙江作为行政区域名称也始于清代。1683年12月，清廷为抗击沙俄入侵，于黑龙江左岸瑷珲旧城设镇守黑龙江等处地方将军（简称黑龙江将军），划出宁古塔将军所辖之西北地区，归黑龙江将军统辖，形成盛京、宁古塔、黑龙江三将军并立的局面，这是黑龙江自成一个军事、行政区域并以“黑龙江”命名的开端。[22]
距今4.5—1万年的旧石器时代晚期，黑龙江大地上即已出现了原始先民的足迹。进入新石器时代，人类活动的遗存在黑龙江省境内有着比较广泛的发现。牡丹江流域的新石器时代居民，则主要从事农业生产。如在宁安莺歌岭遗址下层发现当时的生产工具有石锄、石斧、骨锄等，尚志亚布力遗址的石质生产工具有斧、铲、凿、锄、磨盘、磨棒等，都与农业生产有关。[151] 夏商周时期，生息在黑龙江地区的先民有肃慎人和索离人等，就已向中原朝贡。[152]
据先秦古籍《竹书纪年》记载，帝舜二十五年（约当公元前2155年），“息慎氏来朝，贡弓矢”。“息慎”，即指肃慎。说明帝舜时代，黑龙江地区的肃慎、北发、山戎等原始民族，即已同中原地区华夏诸族大联盟的首领间建立了联系，并贡献了自己所特有的生产工具和兵器—弓矢。[151]
夏帝芒三年（公元前1975年），夏王朝的帝芒在位年间，东北的“九夷”派使者到中原，向帝芒朝拜并贡献土特产品。商王汤时（公元前1711～前1698年），夏自孔甲之后渐趋衰落，桀无道，“百姓弗堪”。商族首领汤率诸侯和诸夷灭桀，史称“成汤革命”。肃慎先民使者向汤贡献楛矢石砮，确立了对商王朝的从属关系。东胡的先民和商王朝也有了贡属的关系。[159]