赫伯特·冯·卡拉扬于1908年4月5日出生在奥地利的萨尔茨堡，这里曾经诞生过世界上最伟大的作曲家之一的天才莫扎特。
卡拉扬的家庭原籍是希腊。自他的祖辈移居到奥地利以后，这个家族就不断地出现著名的人物，由于祖上的功名卓著，先后有两名成员被当时的奥皇封为男爵，所以他的家庭一直是属于贵族家庭的，卡拉扬全名中的“冯”字，即是一种贵族的标志。
卡拉扬的父亲是一位医生，但他同时又是一名出色的业余音乐家，经常在莫扎特音乐学校的管弦乐队中演奏单簧管。受父亲的影响和家庭音乐环境的熏陶，卡拉扬从很小便显露出了极为出众的音乐才华。 共6张 赫伯特·冯·卡拉扬
他从四岁开始学习钢琴，八岁时就已经举行了公开演奏会，由于才华和技艺的出众，他曾被当时的舆论界公认为未来最有前途的钢琴演奏家。卡拉扬早年曾在家乡的莫扎特音乐学校中学习，在这里，他曾受到该校校长的特殊关怀，这位校长是第一个发现卡拉扬的天才人物，他处处像慈父般地关心着卡拉扬，并且还介绍他去著名的意大利美术馆中去学习绘画和雕塑，自然，这种对姊妹艺术的了解和学习，对于卡拉扬以后的艺术成长起到了十分积极的作用，卡拉扬日后在指挥时所表现出的丰富色彩变化和雕塑般的音乐造型艺术，大概都是受益于此的。
到了十几岁以后，卡拉扬便离开了自己的故乡而来到了维也纳，他同时在维也纳国立音乐学院和维也纳大学中学习钢琴、指挥和音乐学，起初，卡拉扬一直是将成为钢琴大师来作为自己的奋斗目标的，后来，由于他的手指出了毛病，才不得已而转到了指挥系学习。他在这段时间里，用心倾听了维也纳歌剧院所上演的理查·施特劳斯和普契尼的全部歌剧作品以及亨德米特、克申涅克和斯特拉文斯基的许多现代派歌剧，同时还大量观摩了像富特文格勒、克劳斯、托斯卡尼尼和瓦尔特等指挥大师们的排练和演出，从中学到了很多他所渴望学到的东西。
卡拉扬首次登台指挥是在1928年，当时他是在他的教师冯德勒所主办的一次学生音乐会上首次表演的，这一次，他指挥了学校的学生管弦乐队演奏了罗西尼的《威廉·退尔》序曲，这次演奏的成功，受到了很多在座人们的好评，而20岁的卡拉扬，也终于首次尝到了作为一名指挥所具有的独特味道。 年轻的卡拉扬
从大学毕业以后，卡拉扬便马上遇到了选择和寻找职业的问题，由于他感到在人才济济的维也纳没有什么指望，便回到了自己的家乡萨尔茨堡，在这里，他有着父母、朋友和熟悉他的人的支持，也有着当年自己作为神童钢琴家时所留下的影响和印迹，他意识到，自己的艺术生涯还是应当从这里起步，于是，当他回到萨尔茨堡之后，便开始精心策划一场较有影响的音乐会，经过各方面的努力，音乐会被确定举行了，卡拉扬将在这里指挥莫扎特音乐学院的学生乐队演出，在他的演出节目单上，赫然地印着这样一些曲目：柴科夫斯基的《e小调第五交响曲》，莫扎特的《A大调钢琴协奏曲》和理查·施特劳斯的交响诗《唐璜》。音乐会的演出很成功，人们不住地向这位青年指挥家报以掌声。然而这场音乐会的最重要的意义却并不在于此，谁也没有想到在音乐会的观众席上，坐着乌姆市歌剧院的院长，这位院长在听完了卡拉扬指挥的音乐会后，立即跑到后台找到了这个小伙子，同时向他宣布将聘请他担任乌姆市歌剧院的常任指挥，就这样，卡拉扬平生第一次有了一个作为指挥的正式职业。