伍子胥的父亲伍奢是楚国太子太傅，负责教导太子建，太子被费无忌所诬陷，伍奢也受到了牵连。费无忌对楚平王说：“伍奢有两个儿子，都有才干，不杀掉将成为楚国的祸患。可将他们的父亲作为人质将他们召来，不然就会成为楚国的祸害。”楚平王派使者对伍奢说“：你若将你的两个儿子招来可免你一死，不然性命难保。”伍奢说：“伍尚为人仁厚，召他一定会来。伍员为人刚烈暴戾，忍辱负重，能成大事，他料到来后会一起被擒，一定不会来。”平王不听，仍然派使者召伍奢的两个儿子。
使者对伍奢的两个儿子对说：“你们若来，我就让你父活命；不来，马上就杀掉伍奢。”伍尚要去，伍子胥说：“楚王召我兄弟，并不是为了让父亲活命，是怕我们逃脱后成为祸患，所以拿父亲作为人质，假意召我兄弟俩，我兄弟俩一到，父子三人就会一起被杀，对父亲的死活有什么好处呢？况且去了便不能报仇雪恨。不如投奔别的国家，借他国的力量来雪父亲的耻辱，一起束手待毙是没有作为的。”伍尚说“：我知道应召前去也不能保全父亲的性命，可是只怨父亲召我们以求生路，而我们不去，以后又不能报仇雪恨，到头来岂不被天下人耻笑。”又对伍子胥说“：你可逃走，你可以报杀父之仇，我将安心就死。”伍尚束手就擒，使者来捕伍子胥。伍子胥挽弓搭箭对着使者，使者不敢上前，伍子胥就逃走了。 伍子胥
伍奢听说伍子胥逃走了，叹息说：“楚国君臣将要苦于战争了！”伍尚到了楚国都城，楚王将伍奢、伍尚一道杀死。[1]
此时伍子胥欲逃往吴国，奈何路途遥远，只好作罢。之后他因太子建在宋国，遂投靠之，但宋国内乱，只好与太子一起奔郑。在郑国，太子建和晋国大夫中行寅合作，联合推翻郑定公，被定公知晓而被杀，最后子胥只好偕太子建的儿子公子胜一起投奔吴国。途中过陈国欲出昭关到吴国，昭关守卫正在到处抓拿他们，两人只好徒步逃走。
伍子胥出了昭关，怕有追兵赶来，急忙往前奔跑，但遇到一条大江拦住了去路。正着急时，江上有个老渔夫划着小船过来，把他渡了过去。过了大江后，伍子胥感激万分，摘下身边的宝剑，交给老渔夫说：“这把宝剑是楚王赐给我祖父的，值一百两金子。送给你，聊表我的心意。”老渔夫回答说：“楚王为了追捕你，出了五万石的米粮作为赏金，还答应封告发者为大夫的爵位。我不贪图赏金、爵位，怎么还会贪图你的宝剑呢？”[2]