据《宁远府志》记载，凉山以“群峰嵯峨，四时多寒”得名。解放前云南一带称凉山地区为“巴布凉山”，“布”字与古“濮”字有关，凉山古时有“濮人”，彝族称之为“濮苏乌吾”，即后来称之“僰人”的少数民族居住。而彝族自称凉山地区为“斯普古火”，汉语意为森林茂密的高寒地区。筹建凉山彝族自治区时，经广泛征求各方意见，仍沿用“凉山”一词，根据《共同纲领》第51条的规定，中央人民政府政务院的批复，把西昌专区的一部分地区划设为相当于专区级的凉山彝族自治区，称为西康省凉山彝族自治区。1955年10月1日西康省并入四川省后才改属四川省。1955年4月凉山彝族自治区第二届代表会议第一次会议，根据《中华人民共和国宪法》规定，通过决议，把凉山彝族自治区改称为凉山彝族自治州。[95]
凉山州古为梁州之域，属西南夷地。凉山州早在新石器时代即有古人类在此生息、繁衍。[90]
西汉元鼎六年（公元前111）正式建越嶲郡，置十五县，隶属益州，其境域北迄大渡河，东临金沙江，南至金沙江外（包括今日雅安地区石棉县，乐山地区峨边、马边，攀枝花市及云南省丽江地区部分地区）。[90]
王莽篡汉后，始建国元年（9年），改越嶲郡为领戎，后又改名为集郡。天凤二年（15年）越嶲部族首领任贵率兵杀太守，自立为谷王。[90] [91]