先秦时代，海南岛与南海诸岛已内属中原王朝。秦末全国战乱，南海郡尉赵佗乘乱兼并3郡建南越（粤）国，海南岛与南海诸岛归南越国管辖。[5]
西汉元鼎六年（前111年），汉武帝派伏波将军路博德、楼船将军杨仆平定南粤之乱，以其地置儋耳、珠崖、南海、苍梧、玉林、合浦、交趾、九真、日南等9个郡，其中儋耳、珠崖二郡在海南岛上[6] 。
三国时代（220年～265年），南海海域属吴国辖。吴王孙权派康泰、朱应出使扶南（今柬埔寨）等国，康、朱二使亲历南海诸岛部分岛屿，并仔细观察“珊瑚洲”[7][8] 。
隋大业三至六年（607年～610年），炀帝派常骏、王君政出使赤土国（今马来半岛泰国东南一带），航程经西沙和南沙群岛西侧，并在海南岛上置珠崖、儋耳、临振（即后代的振州，今三亚市）3郡，南海诸岛归临振郡辖。唐太宗贞观元年（627年），海南设崖州都督府总管崖州（原珠崖郡）、儋州（原儋耳郡）、振州（原临振郡），南海诸岛列入崖州都督府所辖疆域，隶属于振州，正式确立中国对南海诸岛的主权[9] 。
宋代承袭唐代行政建置[10] 。[11]
清朝初期，朝廷对南海诸岛及从事渔业生产的南海渔民，派遣水师巡视，保境安民。顺治年间（1644年～1661年），清政府在琼州设镇标右营，驻海口，督隶水军战船，于所部海面分汛防守[12][13][14] 。
民国三十六年（1947年）12月1日，内政部重新审定了东沙、西沙、中沙、南沙群岛及其所属各岛、礁、沙、滩名称，正式公布了《南海诸岛新旧名称对照表》，同时再次宣布将东沙、西沙、中沙、南沙群岛划归广东省政府管辖。[15]
民国三十八年（1949年），中华人民共和国成立后，中国政府继续对西南中沙群岛及其海域行使主权。
1959年3月24日，在西沙群岛的永兴岛设置“西沙群岛、南沙群岛、中沙群岛、东沙群岛办事处”。[16]