丘处机19岁出家，次年拜王重阳为师，追随左右，甚契玄机，与丹阳子马钰、长真子谭处端、长生子刘处玄、玉阳子王处一、广宁子郝大通、清静散人孙不二合称“全真七子”。王重阳羽化后，他在陕西磻溪洞穴中住了6年，苦心修道。后来又隐居在龙门山(今陕西宝鸡境内)励志精修7年。明昌元年(1190)，金章宗以“惑众乱民”为借口，下诏禁罢道教，丘处机于是东归栖霞。贞祐二年(1214)秋季，请命招安山东杨安儿义军，获得成功。金庭与南宋先后派遣使者召请他，皆不应诏。元太祖闻其名，自乃蛮(今蒙古境内)派使者召请，丘处机毅然率弟子18人从莱州出发，跋涉万里，历尽艰难，两年后抵达西域大雪山。太祖问他如何治理天下，他回答应以“敬天爱民”为本；问长生久视之道，回答以清心寡欲为要；并进言欲统一天下者，“必在乎不嗜杀人”。太祖深契其言，礼遇甚隆，尊为神仙。后来丘的弟子李志常撰作《长春真人西游记》，记述其事颇详。丘处机返归燕京(今北京市)后，太祖赐以虎符、玺书，命他掌管天下道教，并下诏免除道院、道士一切赋税差役。丘处机于是广发度牒，建立平等、长春、灵宝等八个教会，大量建立宫观，设坛作醮，一时教门四辟，道侣云集，全真道获得很大发展。元太祖二十二年(1227)，丘处机羽化于宝玄堂，殡于白云观处顺堂(今北京白云观丘祖殿)。元世祖至元六年(1269)，诏赠“长春演道主教真人”。元武宗至大三年(1310)加封为“长春全德神化明应真君”，后世称为“长春真人”。
丘处机所创龙门派，为全真道传承的主要教派。他基本继承王重阳的思想，主张清心寡欲为修道之本。撰有《大丹直指》二卷，系统阐述其内丹修炼的理论和方法。另外还著有《磻溪集》六卷，收存于《正统道藏》；《摄生消息论》一卷，收入《道藏精华录》。丘处机弟子众多，如尹志平、李志常、宋德芳等，均是名闻遐迩的高士。尹志平撰写的《北游录》等书，创造性地继承、发挥了丘处机三教合一思想，是元代全真道最重要的理论著作之一。
丘处机虽长期从事宗教活动，但对社会问题有着敏锐的洞察力。他深知道教发展必须要得到统治阶级的全力支持。大定二十八年（1188年），他首先取得当时信奉道教的金世宗青睐，向最高统治者宣传自己的主张，并取得了成功。金世宗不仅亲赐大桃以示褒奖，让他主持万春节醮事，而且下令在宫庵中塑全真道创始人王重阳祖师之像以为纪念，为丘处机扩大全真道的影响和提高自己的社会地位无疑起到了重要作用。
泰和三年（1203），刘处玄去世，丘处机任全真道第五任掌教。泰和三年（1203）至兴定三年（1219）间，他在山东蓬莱、芝阳、掖县、北海和胶西等地传教。过雪山见过成吉思汗后，丘处机利用宫观广发度牒，安抚了大批平民，使之加入全真道，从而免除了他们承担的苛捐杂税。此举在当时影响巨大，以致各阶层人士纷纷涌入全真道门下，文人、官吏以与全真道道士相交为荣，道教其他派别甚至一些佛教寺庙也挂起全真道旗号。正大元年（1224年）春天，丘处机应燕京官员的邀请主持天长观。正大四年（1227年），成吉思汗下诏将天长观改名长春宫（今北京白云观），并赠“金虎牌”，称“道家事一切仰‘神仙’处置”，即诏请丘处机掌管天下道教。丘处机以长春宫为全真教大本营，又在各地建立道观向全国推广。在元政府支持下，一时间全真道达到“古往今来未有如此之盛”的兴旺局面。丘处机掌教时间长达24年，期间他在政治和社会上积极发挥自己的影响，使全真道乃至整个道教的发展都进入了兴盛时期。