加尔文1509年7月10日生于法国皮卡迪的努瓦营。1528年获得文科硕士学位，随后到奥尔良和博格斯（Bourges）学习，从学于法学家勒斯杜瓦里和阿尔恰提。23岁出版《塞涅卡仁慈论注解》。这时，他已从一位有人文主义思想的天主教徒转变成宗教改革的积极倡导者。1533年其挚友尼古拉斯·科布任巴黎大学校长，加尔文在帮助他草拟就职演讲词中，强调宗教改革乃势所必然，被法国王室认为是异端而被迫离开巴黎。次年他宣布放弃教会俸禄，并到巴塞尔从事著述。1536年加尔文在去斯特拉斯堡途中，被日内瓦宗教改革领袖法雷尔挽留，成为日内瓦市议会的实际领导人。他积极提倡宗教改革，同年发表其主要神学著作《基督教要义》。在这期间他还编订教会法规，由市议会强迫市民宣誓奉守，拒绝者驱逐出境。1538年7月以下层市民为主体的自由派将他和法雷尔驱逐出日内瓦。同年他经布塞尔推荐，迁居斯特拉斯堡任牧师，教授神学和从事著述，致力于圣经研究。在这期间他结识了马丁·路德、梅兰希顿等人。
加尔文于1541年回到日内瓦，他最先开始的一项工作是撰写了一套《教会律例》（Ecclesiastic Ordinances），日内瓦政府在做出一些修改之后批准了《教会律例》，并将教会管理权交给了教会审议会（consistory）。教会审议会主要有牧师和十二位长老组成，其中牧师只有五位，平信徒长老占绝大多数。《教会律例》将教会圣工分成四种职分：牧师负责讲道和主持圣礼；教师或博士负责所有信徒的信仰教育；长老监督周围人的信仰生活，并规劝犯罪的信徒，如果他们不改正，长老可以将他们报告给教会审议会；执事负责教会的社会服务。加尔文认为，这四种职分反映出了新约的习俗。教会审议会通常会听从加尔文的建议。教会审议会和日内瓦政府之间不断爆发冲突，因为听命于加尔文的教会审议会试图掌控同为教会成员的日内瓦公民的习俗，而且通常掌控得比政府更加严厉。到了1553年，反对派在此掌权，加尔文的政治地位变得不稳定。
从1555年开始，归正教会在日内瓦已占绝对统治地位。加尔文除了领导教务外，还从事旧约的注释。1559年日内瓦学院在他的指导下成立。同年他的《基督教教义》第四版付印，篇幅从1536年初版6章发展为80章，后来被译成多种语言，成为归正宗神学的标准和依据。加尔文于1564年5月27日去世。
加尔文宗教改革方案的重点：对加尔文来说，神学的核心是全能上帝的绝对意志和荣耀；强调《圣经》对于整个教会和社会的“永恒真理准则”的意义，把其视为教义和生活的标准；加尔文更注重上帝所拣选的集合之民；对加尔文来说，信仰者的生活是以“复活的基督”为中心，每一次圣餐都是对已受上帝拣选的确认；在加尔文看来，教俗同属上帝的管辖，在世俗权力陷入不义之时，甚至可以用上帝的义取代它，因此带有革命性色彩。