距今7000年前的新石器时期，雅鲁河、绰尔河流域已有人类活动。
尧、舜时期，雅鲁河、绰尔河流域均在古肃慎国内，其地为濊貊部余部夫余部所居。
春秋时期，扎兰屯市境域内的雅鲁河、绰尔河流域为东胡重要游猎地之一。
东汉末年，雅鲁河、绰尔河流域处于鲜卑势力东界之地。
东晋太元十一年（386年），雅鲁河、绰尔河及阿伦河流域为夫余国势力范围之内，为勿吉国黑水部。
唐元和时期，雅鲁河、绰尔河流域属南室韦中的和解部和乌罗护部（即北魏乌罗侯）两部的游猎之地。
五代十国时期，契丹皇族遥辇、迭刺二部长期居住在雅鲁河、绰尔河、阿伦河流域，为契丹人活动中心。
辽天庆六年（1116年），辽在泰州（今黑龙江泰来县塔子城）北设金山县，后升为静州。为雅鲁河、绰尔河流域，即今扎兰屯市境域。
蒙古太祖九年（1214年），铁木真对几个立有战功的弟弟和外戚家族进行分封，铁木真幼弟帖木真·翰赤斤的封地在大兴安岭东西之地以及嫩江、松花江一带，扎兰屯市境域在其封地内。
明永乐六年（1408年），明王朝设立的阮里河（即雅鲁河）卫，即设在今大兴安岭东麓雅鲁河流域，同时在绰尔河流域设置了朵颜卫。
清顺治时期，沙俄军队入侵黑龙江以北广大地区，清王朝忙于平定关内反清叛乱，无力顾及边疆防务，遂采取消极的内迁政策，将居住在这一边区的鄂伦春、鄂温克、达斡尔等族迁至黑龙江南岸居住，其中部分鄂伦春人、鄂温克人被迁至雅鲁河、绰尔河、济沁河流域的原始森林中游猎，雅鲁河、音河流域被编为“雅鲁阿巴”，济沁河流域被编为“济沁阿巴”，绰尔河流域被编为“托信阿巴”。