20世纪以前，中国古代曾册封多位“大元帅”、“兵马大元帅”和“提督兵马大元帅”。但严格意义上，以上称呼都是职务而非军阶，职位。
20世纪以后，大元帅在中国近代，曾作为军队最高统帅的名称出现过。清末监国摄政王载沣（“陆海军大元帅”）以及中华民国成立后，黎元洪（“假定大元帅”）、孙中山（“陆海军大元帅”）、张作霖（“陆海军大元帅”）以及蒋中正（“陆海空军大元帅”）的“大元帅”称号同邻国日本的大元帅一样，亦是国家元首或国家最高领导人为最高统帅职务而不是军衔。 孙中山大元帅礼服像
1927年南京国民政府成立后，规定国民政府主席兼陆海空军总司令，大元帅名称遂中止使用。1937年8月12日国民党国防最高会议及党政联席会议决定，军事委员会委员长蒋介石为“中华民国陆海空军大元帅”，即最高统帅之意，并非实际职务和军衔。所以1945年9月蒋介石在给侵华日军总司令冈村宁次的命令中，签署的职衔为“中国战区最高统帅特级上将”。 蒋中正特级上将常服像
中国历史上大元帅等级军衔首次出现是在1935年3月30日，中华民国国民政府制定“特级上将授任条例”，规定特级上将为中华民国陆、海、空军最高军事长官。中华民国历史上获此军衔者为蒋中正，1935年4月1日由国民政府主席林森任命为特级上将，他因此被美国人昵称Gimo、语源Generalissimo也就是“大元帅”的意思。
而第二次也是最后一次出现是1955年2月8日中华人民共和国第一届全国人民代表大会常务委员会第六次会议上通过的《中国人民解放军军官服役条例》关于设立“中华人民共和国大元帅”为最高军衔的决议，授予“对创建全国人民武装力量和领导全国人民武装力量进行革命战争、立有卓越功勋的最高统帅”（该条例第9条第1款），当时只有毛泽东符合条件，但由于毛泽东本人拒绝接受，所以直至1965年该条例废止为止，此军衔仍然空缺。 中华人民共和国大元帅常服肩章
1899年，大韩帝国皇帝李熙设立元帅府，规定皇帝为大元帅，皇太子为元帅。[5] 韩国被日本吞并后，大元帅宝于1911年被缴纳给朝鲜总督府。[6]
1952年，朝鲜民主主义人民共和国最高人民会议常任委员会发布了关于制定朝鲜人民军高级指挥员及军官的军事称号的政令，随后参照苏联军衔模式设立了朝鲜的军衔制度。朝鲜人民军军衔一共分为6等23级。其中元帅一类的分为3级：大元帅、元帅和次帅。在朝鲜历史上，只有金日成生前获封朝鲜民主主义人民共和国大元帅，金正日生前仅是元帅，在其逝世之后才被追授为朝鲜民主主义人民共和国大元帅。朝鲜民主主义人民共和国元帅分为“共和国元帅”和“人民军元帅”两个军衔和最低一级的“次帅”。[1]