徐家汇的形成可上溯至明代。晚明文渊阁大学士、著名科学家徐光启曾在此建农庄别业，从事农业实验并著书立说，逝世后即安葬于此，其后裔在此繁衍生息，初名“徐家厍”，后渐成集镇。 上海租界华界划分图
因地处肇嘉浜与法华泾两水会合处，故得名“徐家汇”。
徐家汇是上海近代化过程中的文化重镇。交通大学发端于此。徐家汇藏书楼是中国最早最完备的图书馆；依纳爵公学（徐汇中学）是中国内地最早的新式中学；同治七年耶稣会士Pierre Marie Heude在此创立了自然博物馆；1872年在徐家汇成立“江南科学委员会”。
同年创立的徐家汇观象台是中国最古老的气象观测站，号称“远东气象第一台”。四年后，又成立了徐家汇土山湾印刷馆。
新中国著名的上海电影制片厂和中国唱片厂也位于徐家汇。徐家汇的这些建筑和机构书写并见证了上海乃至中国近代文化的发展历程。
耶稣会传教
法国天主教耶稣会江南教区择地徐家汇这个世代笃信天主教的徐光启后裔居住地建造耶稣会会院。此后，一批以文传道的耶稣会会士相率入境，兴建教堂，创办学校，传播西方宗教文化，徐家汇地区因之成为西方文化输入的窗口。 徐家汇一角
天主教传入中国后，一些教士为研究中国文化，汇集了大量书籍，但当时教士大多聚集北京，藏书楼也建于北京。
1842年传教士重来中国，其文化重心移至上海徐家汇地区。1847年（道光二十七年）教士开始从青浦横塘移驻徐家汇，藏书楼也随之创建。当时藏书楼分上下两层，上层为西洋书籍，大多是希腊文、法文、英文、德文版图书，约有8万余册，其中有许多是古本书。下层为中文书，约12万册，志书2100余种，还有全国各地有名的碑帖，都分门别类，并编有卡片目录。 圣依纳爵公学今徐汇中学，创建于前清道光三十年（1850年），它是上海第一所教会办的中学，因求学者日益增多，于光绪四年（1878年）增建了一座三层西式教学楼，学校分设中西文课程，西文课有希腊文、英文、法文及各种学科，学生毕业后或送震旦，或进外洋大学专科。