城隍神，即城市的守护神，其名源于城墙与护城河。“城”，就是城墙；“隍”是护城河，两者均为古代军事设施用以保护城市。据《礼记》记载，古代天子祭祀的“水墉”神，具有维护水土平衡的职责，可视作城隍神的原型。南北朝时期即有城隍神的祭祀记录，至明代，随着城市繁荣，城隍神崇拜更为普遍。[11]
城隍神职责涵盖维护公平、伸张正义、监察万民等，被誉为公忠正直的神灵。《太上老君说城隍感应消灾集福妙经》赞其剪恶除凶，护国保邦。上海城隍庙供奉的城隍神为秦裕伯，元代进士，因道德高尚、仗义执言，被民众尊崇。虽曾拒绝朱元璋的招揽，但后为国请命而入朝为官。羽化后，朱元璋赞其生不为臣、死当卫土，民众遂奉其为上海城隍神，期望其守护上海安宁。[11]
自唐代起，上海地区已有城隍庙的存在。当时，上海被称为华亭县，其西面建有华亭县城隍庙。至元十四年（1277年），华亭县升级为华亭府，次年再更名为松江府，而原华亭县城隍庙也随之更名为松江府城隍庙。然而，由于历史资料的缺乏，松江府城隍庙中供奉的城隍神身份已无从考证。根据民间传说，华亭县城隍庙内曾供奉的是汉代刘邦大将纪信的塑像。[4]
元至元二十九年（1292年），上海县正式成立。鉴于当时上海县城的规模较小，县内并未单独设立城隍庙，居民们祭拜城隍神的活动通常会在城郊的淡井庙（现位于上海市永嘉路十二号）进行，那里供奉着松江府城隍神。[4]
随着明代永乐年间（1403-1424年）上海县城市规模的不断扩大和居民人数的增加，出城祭拜城隍神变得越来越不便。因此，当时的上海知县张守约决定将城内供奉金山神主博陆侯霍光的金山神祠改建为上海城隍庙，并供奉上海城隍秦裕伯，以满足城内居民祭拜的需求。[4]