高永祥，原名高仓贵，又名吉祥，1912年3月出生于甘肃灵台[4] 星火乡王家庄村高家庄[5] 一个贫苦的农民家庭。家贫使他无钱上学，从小便放牛、放羊、砍柴、割草。倔强的高永祥从心底里就不服穷，他看地主驮走他家的粮食心里十分仇恨。1926年，在成衣店学徒三年的高永祥，自己准备另立店铺，独立经营干一番事业，却被国民党第二十六路军孙连仲部队抓了壮丁。
民国十七年、十八年大旱，继遭黑霜，夏秋绝收，饥民掘草根充食，盗抢匪患肆掠，民生倒悬，高永祥尤以愤懑。其时，冯玉祥部队驻陇东，高永祥隐瞒父兄投奔冯部当兵。1930年他随军参加了中原大战，冯反蒋失败，高所在部队被蒋介石改编为26路军。[5]
1931年，第二十六路军被调到江西“围剿”中央苏区。12月24日，第二十六路军一万余人在赵博生、董振堂的率领下，在宁都举行起义。宁都起义后，高永祥被编入工农红军第五军团任排长。高永祥在红五军团任排长期间，带领全排的战士，参加了第五次反“围剿”。1934年10月，中央红军主力撤出江西苏区，开始长征。高永祥随军长征。1935年10月，红军长征胜利到达陕北后，党中央为培养更多的军事干部，选派高永祥到红军军政大学学习。[2]
1937年，全面抗战开始后，高永祥奔赴抗日前线，与侵略者展开了不屈不挠的殊死战斗。8月，侵驻华北的日军达30余万人，毛泽东提出全民抗战、持久抗战的路线和方针，把数量极为有限的八路军主力部队集结于山西，以山地游击战为主，配合国民党军队从侧翼阻击敌人。
为形成全民族抗战的局面，中国共产党同山西省国民党当局就抗日民族统一战线达成协议，9月20日，太原绥靖公署主任阎锡山批准成立了第二战区民族革命战争战地总动员委员会（简称“战动总会”）。“战动总会”组织了训练班，高永祥被分配到太原游击训练班当教官。11月8日，日军进占太原，训练班停办。高永祥和时任太原县牺盟特派员慕湘同志把部分学员转移到太原近郊的清徐县清源、徐沟一带，组成清太抗日游击队。这支六七百人的队伍被“战动总会”编为第一路纵队第二支队，高永祥任支队长。1938年4月，第一路纵队改编为山西保安第二区游击第一支队，辖3个营，原高永祥所在支队改编为第二营，高永祥任二营营长。
1939年5月，山西保安第二区游击第一支队改编为新军暂编第一师36团，高永祥调到以五寨县为中心的晋西北抗击日寇。进入夏秋季，阎锡山意欲消灭共产党领导下的山西新军（即由青年抗敌决死队、工人武装自卫旅、暂编第一师、政治保卫旅、保安旅组成）。高永祥带领二营协同决死四纵队在岢岚阳坡寨向阎军步兵三团发起反攻，阎军忙从赤坚岭一线沿大川向临县撤退。高又带领二连去清凉寺攻破了阎军未及时撤退的后方机关，俘敌数百名，缴获大批物资。这次反顽斗争胜利后，部队正式转为八路军序列，由晋绥军区二分区指挥。