随州之“随”，其名最早源于远古的“随氏族”。据战国时史官撰写的《世本·作篇》记载：“随，作笙。长四寸，十三簧，像凤之身，正月之音也。”宋衷注：“随，女蜗氏之臣。”由此可见，“随人”不仅是远古时代创制笙簧、酷爱歌舞的氏族，而且还是“女皇”女蜗氏的“臣子”、“诸侯”或后裔，为女娲氏、神农氏、烈山氏同血缘关系的氏族部落。是时，“随人”先以“兕”为图腾（“兕”即“犀”之异名，“兕属雌，犀属雄”）后又演变为崇拜“豕”图腾，是生存、繁衍于南方大洪山的土著氏族，赖以渔猎为生计，后来扩展至桐柏山区。其中一支族“烈山氏之子曰柱”，“烈山泽而焚之”，开创了原始农业和饲养业，故又崇拜“牛”“豕”图腾，迄今随州地区仍保留崇敬“独角兽”（即“兕”）“猪头插筷子”（即祭祀烈山之子柱）的习俗。
随氏族日渐发展壮大，其中一支族随为帝向北扩张。虞夏至商初，随人在中原建立“犀”方国。同时，从商代中期至战国末期，先后在随境有“厉”、“随”、“唐”三个诸侯国建置都邑，西周初年，周武王封姬姓四十人，其中“随”、“唐”封建随境。
从秦代迄今的二千多年间，随州建置虽然变迁频繁，但大部分时期或设郡、州，或置专署，成为江汉、鄂北的政治、经济、军事、文化中心。[30]
战国末，楚灭随建县，秦汉因之。晋设义阳郡，南北朝改设随阳郡，后又改为随郡、北随郡；北周设汉东、义阳二郡。西魏随升为州，辖郡、县。隋仍设州，后废州设汉东郡。唐改郡为随州。宋、元仍为随州。民国后废州为县，抗战时期，国民政府湖北省三专区公署设在随县。
1949年5月16日，随境随县、洪山县并列，分别隶属孝感、襄阳两专署。1955年4月30日，湖北省人民委员会13号命令，将洪山县制撤销，其辖区分别归并宜城、钟祥、枣阳和随县。
1979年11月，经国务院批准，以原随县城关镇和北郊公社为基础，设立随州市，与随县并存。
1983年8月19日，国务院164号文通知，撤销随县建制，其行政区域并入随州市。11月20日，县、市正式合署办公。