徐汇区境在唐、五代、宋时属华亭县。元至元二十八年（1291年），原华亭县高昌等5乡划为上海县，区境在高昌乡境内。直至明、清时，徐汇区全境仍隶上海县。[5] 徐汇区在上海市的位置图
清宣统二年（1910年），施行城乡自治，划上海县为1城2镇12乡，区境分属上海城、法华乡、漕河泾乡。[5]
民国三年（1914年），法租界第三次扩张，今肇嘉浜路以北、华山路以东、陕西南路以西、长乐路以南地域划入法租界范围，其余地区分属北洋政府管辖的法华乡、漕河泾乡和法租界。[6]
民国十六年（1927年），南京国民政府设上海特别市，区境分属沪南区、法华区、漕河泾乡和法租界。[6]
抗日战争期间，华界先后属日伪上海市大道政府、督办上海市政公署和上海特别市政府管辖，分属南市区、沪西区，另有法租界。[6]
民国三十三年（1944年），属上海特别市管辖，分属第四区、第七区、第八区（原法租界）。[6]
抗日战争胜利后，区境属上海市第七区（常熟区）、第八区（徐家汇区）、第二十六区（龙华区）。[6]
民国三十六年（1947年），取消区的序号，直称常熟区、徐汇区、龙华区。[6] 徐家汇
1949年5月24日，区境解放。[6]
1950年6月，成立常熟区人民政府和徐汇区人民政府。[6]
1956年3月，常熟区与徐汇区合并为徐汇区。[6]
1964年5月，闵行区划归徐汇区。[6]
1982年4月，原闵行区建制恢复，从徐汇区划出。[6]
1984年9月，上海县龙华镇和漕河泾镇划属徐汇区。[6] 上海市城市总体规划（2017-2035）徐汇区战略指引图
1985年，划出龙华、漕河泾2个镇部分土地建立了长桥、田林2个街道。
1990年底，从田林街道及上海县划出部分地区新建虹梅路街道。[7]