道光十六年七月（1836年9月），刘铭传出生于合肥西乡（今安徽省合肥市肥西县）大潜山麓的刘老圩。祖上世代务农，家境贫寒。刘铭传的父亲刘惠，有六个儿子，刘铭传排行第六。[2]
刘铭传儿时患过天花，乡里称“刘六麻子”。他少年有志，不甘于默默无闻的苦日子，希望一朝得志，荣宗耀祖，曾登上屋后大潜山仰天自誓：“大丈夫当生有爵死有谥。”刘铭传心存大志，却天赋不高，十五六岁才逐渐机敏。他读书不多，自小只看些医药、天文、地理、五行占卜之类的杂书。但他酷爱兵书，“尤好兵家言”，对古代兵家“治兵则在治国”的雄心推崇备至。早年就萌发了“武功震世”、忠君报国的思想。[42]
刘铭传身材魁梧，相貌威严，为人则刚毅豪爽，见义勇为，年轻时就为当地人所敬畏。[42] 有一天，刘家因缴不出团队的粮食，被当地土豪侮辱。刘铭传向土豪警告道：“你们不能再作威作福，欺侮乡民，否则，我就要宰掉你！”土豪见是一个赤手空拳的毛头小子，狂笑道：“孺子还敢阻挡我吗？”刘铭传夺下土豪的佩刀，手起刀落，劈下土豪的头颅，并号召了数百名乡里的青年跟随自己在大潜山修圩筑寨。[4] [5]
咸丰四年（1854年），太平天国西征部队攻克安徽庐州（今合肥），刘铭传在家乡办团练，积极配合清军对抗太平军。咸丰九年（1859年），他率乡勇跟随清军攻陷六安，授千总。次年，出兵救援寿州清军，因而被奖加都司衔。[42] [63]
同治元年（1862年），李鸿章由安徽东下、沿途招募淮军救援江苏，刘铭传率练勇随从至上海，独树一帜，号称“铭字营”。[42] “铭字营”中多为刘家子弟，刘铭传在营中职务最高，辈份也最高，其骨干将领皆为刘家子弟和刘铭传办团练中结纳的“同里敢战之士”，他们绝对服从刘铭传的指挥，成了刘铭传起家的重要帮手。五月二十日，刘铭传率部与太平军初次接战，先后占领杭头和新场两地，直迫南汇城下。此时，南汇太平军守将吴建瀛和刘玉林等部四千人投降，刘铭传挑选其中的精锐加入“铭字营”，扩充了自己的实力。三十一日，刘铭传又率部击退从川沙方向来攻的太平军，于第二天乘胜攻占川沙。刘铭传因此升为都司，加游击衔，并获赏戴花翎。[4] 随后，刘铭传接连攻克奉贤、金山卫，累功升为参将，被赐号“骠勇巴图鲁”。七月，他自浦东回援，在野鸡墩、四江口击败太平军，升副将。[6] [63]