王全斌出身将门，自幼就胆识过人。他的父亲为后唐岢岚军使，私下畜养一百多名勇士，后唐庄宗李存勖怀疑心存异志，下书召见，害怕不敢去。当时王全斌十二岁，对他的父亲说：“这是因为怀疑大人有别的图谋才召见您，您让我去作人质，一定会消去怀疑。”他的父亲照计行事，果然得以保全。自此之后，李存勖把王全斌收用在军中。[2]
到李存勖入洛时，历任宫内职务。同光末年，魏州兵变发生，而洛阳又生兴教门之变，乱兵攻入宫城，近臣宿将都弃甲逃走，只有王全斌与符彦卿等十几人在宫中抵抗。李存勖中了流箭，王全斌等扶他到绛霄殿，王全斌痛哭而去。[3]
后唐明宗李嗣源即位，补任他为禁军列校。后晋初年，跟从侯益在汜水大败张从宾的军队，因战功迁任护圣指挥使，后周广顺初年，改护圣为龙捷，任命全斌为右厢都指挥使。到了讨伐慕容彦超于兖州时，任行营马步都校。
显德二年（955年），王全斌跟随向训（向拱）平定秦、凤，于是兼任思州团练使。不久升为兼任泗州防御使。跟从柴荣平定淮南。收复瓦桥关，改任相州留后。[3]
建隆元年（960年），昭义军节度使李筠占据潞州叛乱，王全斌与慕容延钊由东路会合大军进讨，因战功授任安国军节度。诏令他修葺西山堡塞，不到限期就完成了。
建隆四年（963年），与洛州防御使郭进等人率领军队攻入北汉的太原境内，俘获敌人数千人而归，进克乐平。[4]
乾德二年（964年）冬天，王全斌又任忠武军节度使。朝廷下诏征伐后蜀，命王全斌任西川行营前军都部署，率领禁军步兵骑兵二万人、各州军队一万人由凤州路进讨。赵匡胤召他来看川陕地图，并且告诉他战略方针。[5] 宋灭南平、武平、后蜀、南汉之战
十二月，王全斌率领军队攻拔乾渠渡、万仞燕子两寨，于是攻下兴州，后蜀兴州刺史蓝思绾退保西县。王全斌击败蜀军七千人，俘获军粮四十多万斛。接着攻拔石圌、鱼关、白水二十多座兵营。先锋史延德进军三泉，打败数万蜀军，擒俘招讨使韩保正、副使李进，缴获粮食三十多万斛。不久，崔彦进、康延泽等部将蜀军赶过三泉，于是达到嘉陵，杀死、俘虏很多蜀军。蜀人阻断阁道，宋军不能前进。