宝山因山而得名。明永乐十年（1412年），境内海滨，曾用人工堆筑成一座土山，用作航海标志，为出入长江口的船只导航，永乐皇帝定其名为宝山。此山于明万历十年（1582年）坍没于海，但其名仍沿用至今。[31]
宝山境域，唐代起至南宋嘉定十年（1217年）前，属昆山县，嘉定十年（1217年），昆山县分出东境建立嘉定县，此后历经南宋、元、明至清雍正初年，均属嘉定县。 宝山区在上海市的位置图
清雍正二年（1724年），嘉定县分出东境依仁、守信、循义、乐智4乡所属的13个都的全部或部分建立新县，定名为宝山县（县定名时间，乾隆、光绪《宝山县志》记载为雍正三年，现据《清实录》世宗实录卷二十四记载，雍正二年九月分县时，就定名为宝山县），与嘉定县同城而治。雍正三年（1725年），核准分治。隶江苏布政使司直隶太仓州。
民国元年（1912年），废州，本县直隶江苏省。民国三年（1914年）1月，隶江苏省观察使；5月，省下设道，隶江苏省沪海道。民国十六年（1927年），废沪海道，直隶江苏省。民国二十二年（1933年），隶江苏省松江行政督察区。民国二十六年至三十四年（1937~1945年），先后隶日伪“上海市大道政府”“督办上海市政公署”、汪伪上海特别市，并改县为区。民国三十三年（1944年）8月，复改为县。民国三十四年（1945年）8月，日军投降，抗日战争胜利，复归江苏省，隶第三行政区督察区。民国三十八年（1949年）5月26日，全境解放，隶苏南行政区松江专区。