君士坦丁出生于罗马帝国上默西亚行省的奈苏斯（一译内索斯，今塞尔维亚东部的尼什）[12] ，后世研究者能够确认他的生日是在2月27日，但无法确定他的生年（为此出现了272年、273年[14] 、274年[12] 、282年诸说[2] ，其中274年说较为通行）。[22]
君士坦丁的全名是盖乌斯·弗拉维乌斯·瓦勒里乌斯·康斯坦丁乌斯（拉丁文：Gaius Flavius Valerius Constantinus），是帝国的西部奥古斯都（即皇帝[7] ，参见词条四帝共治制）、绰号为“Chlorus”（“苍白者”）的君士坦提乌斯一世·克罗尔的长子。君士坦提乌斯与3世纪末期的奥古斯都克劳狄二世有血缘关系。[14]
据说，君士坦丁的母亲海伦娜是一家小旅店的女仆，君士坦丁是她与君士坦提乌斯的私生子。但英国历史学者爱德华·吉本认为，海伦娜是这家小旅店的主人，她与君士坦提乌斯的婚姻是合法的。不论如何，当293年君士坦提乌斯被西部帝国的奥古斯都马克西米安任命为恺撒后，他就离弃了海伦娜，而与马克西米安之女狄奥多拉结婚。[22] 15世纪画家描绘的海伦娜（抓着真十字架）形象
君士坦丁自少年时便随父征战，锻炼出了坚强的意志和健壮的体魄。在君士坦提乌斯成为恺撒后，他一度作为人质被扣押在东部帝国奥古斯都戴克里先手下，成为戴克里先宫廷中的一名保民官。[14]
在此期间，君士坦丁曾陪同戴克里先参与295年至296年的埃及远征，返程时他穿过凯撒利亚（Caesarea），给当地年轻的基督徒学者尤西比乌斯留下了很深的印象。当多年后尤西比乌斯为君士坦丁作传时，他描写了自己初见皇帝的感受：