1875年2月2日，克莱斯勒诞生在奥地利维也纳一个著名的内科医生家里。他父亲对人文科学有着广博的兴趣和精到的见解。当时维也纳有识之士常常到他家聚会，西格孟德·弗洛伊德是他家的座上客。阿图尔·施纳贝尔家与他家毗邻而居。克莱斯勒在这样浓厚的文化氛围中成长，从小就表现出极高的音乐天赋。7岁时，他进入维也纳音乐学院，从师小赫尔梅斯贝格学习小提琴，在安东·布鲁克纳班上学习初步乐理，是该院历史上入学年龄最小的学生。他在该院学习三年，1885年毕业，因成绩优异，荣获维也纳音乐学院比赛金奖。接着转到巴黎音乐学院从师著名教授马萨尔进修。马萨尔写信告诉克莱斯勒的父亲：“我教过维尼亚夫斯基和其他许多人；但是小弗里茨一定会成为他们中间最了不起的！”克莱斯勒非常感激他的这位老师，多年后，他还得意地告诉别人：“我想马萨尔是蛮喜欢我的，因为我拉琴颇有点维尼亚夫斯基的派头。”他同时还跟德利布学习作曲。两年后，年仅12岁，他参加了巴黎音乐学院的小提琴比赛，在40名比他年长的竞赛者中脱颖而出，赢得第一名，荣获罗马大奖。 弗里茨·克莱斯勒
从巴黎音乐学院毕业后不久，13岁的克莱斯勒偕同钢琴家莫里茨·罗森塔尔赴美演出。于1888年11月9日在波士顿举行美国首演，第二天晚上在纽约斯坦威大厅演奏了门德尔松的《e小调小提琴协奏曲》。评论界表示了审慎的赞赏。在经过大约半年的美国巡回演出之后，克莱斯勒回到维也纳，在医科大学预科读了两年，然后又去巴黎和罗马学习美术，雕塑和艺术史。广泛的学习涉猎使他受益匪浅，不仅培养了对文学艺术终生不懈的爱好，还能够流利地讲数种现代欧洲语言，阅读古希腊和古罗马的原文经典。他虽然兴趣广泛，过着多少有几分像吉普赛人的流浪生活，但仍念念不忘和维也纳的艺术圈子保持密切的联系，与勃拉姆斯，胡戈·沃尔夫，勋伯格这些音乐家交流艺术见解。
1888年-1889年，克莱斯勒首次与钢琴家莫利茨·罗森塔尔(MorizRosenthal)到美国演出。回到奥地利后，申请加入维也纳爱乐乐团被拒，后改行学医、学绘画、从军，但很快回到小提琴。1889年，他与阿尔图·尼基什(ArthurNikisch)指挥的柏林爱乐乐团合作举办了一张音乐会，正是这场音乐会以及从1901年至1903年一系列的美国巡演让他声名鹊起。
1895年克莱斯勒服了一年的义务兵役，复员后，决定重返乐坛。“因为我拉小提琴，我才是克莱斯勒，我坚信这一点。”克莱斯勒后来回忆道。前进的道路并非一帆风顺。这时即使是在他的故乡维也纳，他也被胡贝尔曼和库贝利克这样的明星级小提琴家给遮掩了。更糟的是，他申请加入维也纳国家歌剧院乐团，考试却未通过，原因据说是“视奏能力欠佳”。这反而刺激了他发愤练琴，重返独奏家行列的决心。1897年，他受到著名指挥家汉斯·里希特的邀请，作为独奏家与曾把他拒之门外的维也纳爱乐合作演出，引起轰动，德高望重的约阿希姆听了他的演出，给予高度评价。重要的聘约接踵而至，1899年11月1日，在德国首都，与尼基施指挥的柏林爱乐乐团举行了柏林首演，观众席上的伊萨伊起立喝彩，欢呼新一代大师的崛起。从此，克莱斯勒作为小提琴家的地位才得到牢固确立。