罗山区域周初，属谢国，周宣王时，属申国。[19]
春秋、战国，属楚国。
秦时，属衡山郡。
汉，置鄳县，属江夏郡。[20]
南北朝，宋孝建三年（456年）分鄳县地增置宝城县，同属义阳郡。南齐，改宝城县为保城县，与𫑡县均属北义阳郡。梁武帝时，合𫑡县、保城县置西汝南郡。北魏，分置保城县、鄳县，东随县，保城县、鄳县属齐安郡，东随县属宋安郡。北齐，合三县置高安县，属安齐郡。
隋开皇三年（583年），并入钟山县；开皇九年（689年），将北魏时的东随县地从钟山县分出置礼山县，属义阳郡。开皇十六年（596年），又分钟山县地置罗山县，属义阳郡。大业末年（618年），礼山县废。
唐武德四年（621年），于县境置南罗州，领罗山县。武德八年（625年），南罗州废，罗山县属申州。
宋开宝九年（976年），罗山县废。雍熙三年（986年），复置罗山县，属信阳军。
元至元二十年（1283年），徙信阳州治于罗山县城，县治迁往西南，称罗山县新县。
明洪武元年（1368年），县治复旧，仍称罗山县，属信阳州。洪武七年（1374年），改属汝宁府。成化十一年（1476年），复属信阳州。
清，属汝宁府。
民国二年（1913年），废府州，罗山县属豫南道。民国十六年（1927年），废道，直属河南省。民国十七年（1928年），河南省划为14个行政区，罗山县属第七（信阳）行政区。民国二十一年（1932年），划属河南省第九行政督察区。民国二十二年（1933年），拨县境南部569.55平方千米归新置的湖北省礼山县（今大悟县）。
1949年3月，罗山解放，划属潢川专区。
中华人民共和国成立后，1952年11月，潢川专区并入信阳专区，罗山县属信阳专区。
1998年，信阳专区改为信阳市，罗山县属信阳市。[3]