古属百越之地。
秦属桂林郡地。
汉属交州郁林郡的增食县、领方县地。
民国四年（1915年）改土归流，废除土司制。由白山、兴隆、古零等3个巡检司及安定土司的金钗、上林县的上下六甲，武缘县的杨圩合并，以兴隆的“隆”字和白山的“山”字取名隆山县。由那马、定罗两个土司及平治县的都勉、贡川合并为那马县。
1951年7月，隆山县、那马县合并设立马山县，隶属宾阳专区。
1958年11月，改属南宁专区。
1971年11月，南宁专区更名南宁地区，隶属南宁地区。
2003年6月，改属南宁市管辖。[5] 共4张 马山美景
2005年，辖7个镇、4个乡（2个民族乡），145个村民委员会，6个社区委员会，3567个村（居）民小组。
2006年，辖白山、百龙滩、古零、金钗、周鹿、林圩、永州7镇，加方、乔利2乡，古寨、里当2瑶族乡；6社区145村。
2010年，辖11乡（镇、民族乡）、151村（社区）。
2015年，辖11乡（镇、民族乡）、151村（社区）。
2019年，白山、百龙滩、古零、金钗、周鹿、林圩、永州7个镇、加方、乔利2乡，古寨、里当2瑶族乡；行政村134个、社区22个。[5]
截至2020年6月，马山县辖7镇4乡：白山镇、百龙滩镇、林圩镇、古零镇、金钗镇、周鹿镇、永州镇、乔利乡、加方乡、古寨瑶族乡、里当瑶族乡，[4] 县人民政府驻白山镇。[6]