三代夏、商时期，中央政府并无常备武力。若要进行军事行动，军队一般由贵族组成，特殊情况下也会征召平民和奴隶。
至周代，方有常备军设置。《周礼·夏官·司马》篇曰：“凡制军，万有二千五百人为军，王六军，大国三军，次国二军，小国一军。”周天子直辖武力有六军，号称天子六师，宗周六师。其余诸侯国依国家大小拥有一至三军不等武力。六军任务为拱卫天子、守备王畿、征伐不臣诸侯与蛮夷，性质相当于禁军，六军统率将领则分别委由朝廷大臣（卿士）任之。后世“六军”一词亦成为禁军代称，如唐白居易作《长恨歌》：“六军不发无奈何，宛转蛾眉马前死。”
秦朝以卫尉掌皇宫诸门屯兵，中尉掌京师驻兵。
汉代初期，延袭为南、北二军。以卫尉率南军，守卫宫城；中尉统北军，屯卫帝都。
汉武帝时，于南军新设两支天子侍卫禁兵，一曰“建章营骑”，二曰“期门骑”，后改称“羽林”、“虎贲”。羽林、虎贲皆以中郎将为长官。“建章营骑”以其卫守建章宫，后更名“羽林骑”，取“为国羽翼，如林之盛”之义。汉武帝又取阵亡将士子弟于羽林骑中扶养，别成一支曰“羽林孤儿”。
“期门骑”，取“皇帝微行，期诸殿门”之义，汉平帝时更名为“虎贲骑”，取“若虎贲兽”，“贲”者奔也，如虎奔驱攫兽而噬，言其猛烈。
汉武帝元鼎六年时，于北军新设八禁兵，各以校尉统领之，曰“中垒”、“屯兵”、“步兵”、“越骑”、“长水”、“胡骑”、“射声”、“虎贲”。南、北二军，因南军常随侍帝侧，故较受重视。
东汉，南军羽林、虎贲及北军八校尉，皆延设之，尤以北军中侯为卫戍宫城之最高武官。汉灵帝时，为讨伐西羌及黄巾贼，中平五年于洛阳西园招募壮丁成立一支战时赴外出征的禁军“西园军”，以中常侍蹇硕为首统率，设八校尉，八校尉分别为：上军校尉蹇硕，中军校尉袁绍，下军校尉鲍鸿，典军校尉曹操，助军左校尉张融，助军右校尉冯芳，左军校尉淳于琼，右军校尉夏牟，史称“西园八校尉”，西园军亦为中国募兵制之始。
魏文帝曹丕在既有的“虎豹骑”（分属虎营、豹营的骑兵团）中，选编精锐组成侍卫队，称“武卫军”。而魏国的虎豹骑最初就是由曾任汉朝禁军指挥官之一的曹操编组成，长官历来由曹氏一族的曹纯、曹真、曹休出任；此为曹魏禁军的由来。
虎豹骑在历史上最有名的几次参战记录有：
一、官渡之战陷入胶着时，虎豹骑随曹操疾行，成功突袭，烧毁袁绍集中于乌巢的粮草；袁绍二子相争后期，虎豹骑破斩袁谭；北征乌桓时，虎豹骑取下蹋顿首级。