柔术的起源可追溯到大约公元前2000年，现在柔术中使用的多种打斗技术，可以在传统的中国、印度、希腊、埃及、美索不达米亚传统搏斗术中找到踪迹。实际上，在埃及的著名的胡夫金字塔中，有成百上千的壁画。其中描绘的武术技术与现代的巴西柔术是如出一辙。有些学者推测：武术从亚洲的印度、中国传播开来，由僧侣及士兵带到世界各地。可以确定的是，这些战斗技术最后落户在日本，成为武士在战场使用的格斗技。
巴西柔术源于武士发展起来的日本柔术，日本柔术拥有大量格斗技术，包括打、投、关节技及绞杀技。“Jujutsu” - 柔术的意为“柔的法则”，它适用于所有于所有日本武术体系，“柔”即灵活性。柔术的特点在于充分利用杠杆原理，而非与对手抗力、比力。柔术练习者会选择使用技术，让对手屈服或耗尽其体力，最终将其制服。然而，在古时柔术被视为次要的格斗术。因为多数武士首先使用刀剑，并将刀剑术视为最重要的武术。因此，日本柔术形成了多种打斗体系，各自体现一部分最原始的技术及策略。有两个例子：柔道，它侧重于摔和投，而空手道则重视踢和打。
柔术大师前田光世（1880-1941）将地面格斗的法则介绍到巴西。前田是日本古柔术及“讲道馆”柔道的专家。前田非常擅斗，并喜欢参加各种比赛检验自己的技术，他经常参加全接触型的打斗比赛。前田是个小个子，身高5英尺5英寸，体重154磅。尽管如此，他的技术非常精湛，据说在他一生中他只输过一次。1914年，受日本政府委托，前田来到巴西，帮助日本移民建立移民地。此时他受到卡斯托·格雷西（Carsto Gracie）的帮助，后者为拥有很强政治背景的成功商人。前田同这个苏格兰移民成为好朋友。于是，前田将自己的柔术知识传给了Gracie的几个儿子。
卡洛斯·格雷西（Carlos Gracie，1902-94），当时有17岁，为卡斯托的长子，接受前田的训练。历史记录显示卡洛斯同前田学习的时间有限，可能只有两年至四年。在这么短的时间里要想成为一个柔术大师，似乎不可能。那卡洛斯到底从前田那里学了些什么呢？
从历史记录上看，前田光世对格雷两兄弟传授了柔术基本技术、擒拿者应掌握的总体策略及赢得和控制打斗的方法。这些策略都是前田自己在参加无限制格斗中获得的实战体验。此外，格雷西们采用了前田的训练方法（自由格斗训练）和用真打实斗作为验证技术实用性的哲学思想。卡洛斯又传授柔术给他的兄弟们：奥斯瓦多、卡斯托、若阿、尤葛和艾里奥。在1925年，格雷西们在里约热内卢建立了格雷西学校。最后，格雷西们自己发展出了很多柔术的技术知识及在实战方面的应用策略。前田在巴西及世界继续旅行，而年轻的格雷西们则研究技术的细节。前田应该很难想到格雷西会脱影而出，成为现代最伟大的格斗神话。
卡洛斯的兄弟艾里奥·格雷西（1908至今）是兄弟中最小的。他非常瘦弱，小时候经常头昏，医生不允许他进行激烈运动。艾里奥14岁时，卡洛斯成为他的监护人。卡洛斯这时已练了一段时间的柔术，并同他的兄弟们一起教柔术。艾里奥虽然不能和哥哥们一起练，但他经常看他们练柔术。一天，卡洛斯未能给一位学员进行单独训练，艾里奥自愿为哥哥代课。由于身材瘦小，艾里奥利用技术来弥补自己力量上的不足。这个学生被艾里奥的技术所折服，从此要求艾里奥正式教他。随着训练，艾里奥的身体素质也逐渐得到了改善。