1855年，安德鲁·梅隆出生。他总共有8个兄弟姐妹，其中3个夭亡。这使得父亲把慈爱都留给了活下来的孩子身上，尤其是安德鲁。安德鲁从小就具有一种成人的安静，他时常给人一种孤僻、冷漠、专心致志的感觉，他对哥哥们的繁忙不感兴趣，也不与小弟弟们摔跤吵嘴，互吹口哨哄闹。根据幼年伙伴的回忆，安德鲁肤色发暗，而且表情总是冷冰冰的。他那整洁、紧凑的孩子的面容上很少流露出招人喜爱的表情。
安德鲁·梅隆的父亲托马斯·梅隆是一个非常有心计的人。他的智慧在他十几岁的时候就被人们注意到了。这个孩子从小就对种族歧视不满，他不甘于被视为贱民阶层。他决心要使梅隆家族改换门庭。
梅隆家族祖籍爱尔兰。安德鲁·梅隆的父亲托马斯读完匹兹堡大学（当时校名为西宾夕法尼亚大学），并多学了一门法律。他靠勤工俭学念完大学后，加入了当地的律师协会。尽管他十分不满这种为别人争吵的职业，但还是努力去工作直到有一天他当上了法官。为了改变自己的状况，托马斯的婚姻完全是功利主义的，不全是为了爱情。他同一个现金短缺却拥有大量地产的家庭的女儿萨拉·珍妮结了婚。这一战略性的手段对他后来的事业起了巨大的作用。托马斯惜财如命，甚至不讲人情，对自己的孩子异常粗暴苛刻，但对安德鲁却是例外，因为安德鲁的头脑中似乎从小就有经济细胞，在他少儿时，就做了一件使父亲颇感兴趣的事，他看到几个月来农民的马车经常从他家走过，他就把家里的鲜草打成捆，以5分钱一捆的价格向马车夫们出售。这样劳动强度很大，不知不觉中锻炼了身体，同时获取了实利。父亲托马斯高兴地给了他一辆挂车和一头驴子。他用车和驴子载上芦根、草莓、桃子和玉米，在家乡附近一带出售，做生意。当时，南北战争正紧，老法官托马斯总带着这个他喜爱的儿子外出。父亲表情严肃地和他说着一些成人的话语，安德鲁继承了父亲的性格，具有了孤僻、冷漠的习性，缩短了童年的时间。
不久，安德鲁进入了匹兹堡大学。 安德鲁上课前总来到父亲开办的银行里送保险柜外面铁栅栏的钥匙，放学后就在这里听父亲和顾客谈判。父亲总是不遗余力地教给他一些必要的知识。当父亲过度劳累时，这位匹兹堡大学的学生就主动处理起银行的各种事物。
安德鲁青少年时，一个偶然的机会使他养成了勤劳和占有的习性。他知道只有多打草，才能多赚钱。这种户外的体力劳动，把他晒得黑黑的。同时，他又学会了驾车子，收购和贩卖水果。在不停的劳作中使自己的身体更为灵活，反应速度加快，练就了顽强的意志和毅力，他的体质得到了很大的提高。
1872年，安德鲁已经年满17岁了。许多人在这个年龄已经长得十分高大了，而他的个子并不高，也许因为此时父亲托马斯的生意越来越多，他实践的机会越来越多，见识也愈加开阔，他的头脑中已装下了一部精确优良的算盘的缘故。遗憾的是，从此他的个子再也没有长起来。可塞翁失马，焉知非福。科学研究表明，按细胞衰老学说推测：矮个子可能是身体的总量需要少，在相同年龄，细胞需要分裂次数也相对较少，故衰老也相对延缓。美国俄亥俄州专家米勒认为：矮个儿长寿，一个合宜的高度，可以让身体在运作时得到充分发挥，有很强的适应力和抗病能力。所以说，安德鲁有一个长寿型的体形。此时他精力充沛，急需干事。一天，父亲让他去看一下在巴尔的摩与华盛顿之间的一块土地。考察后，安德鲁提出只留下一块做路基的土地，其余的卖出。事后表明，留下的这块土地在该处通铁路时，赚了一笔令父亲惊讶不已的钱。安德鲁18岁便结束了学业，以极大的热情投入了工件。