秦末全国战乱，南海郡尉赵佗乘乱兼并3郡建南越（粤）国，海南岛与南海诸岛归南越国管辖。[5][6]
西汉时期，中国人开始在南海航行，并发现一群珊瑚岛礁，并设置了珠崖、儋耳二郡[7] 。三国时期，万震所著的《南州异物志》和康泰所著的《扶南传》，有关于南沙群岛地貌特征的记述。东晋法显留下了关于南洋的旅行记。[8]
唐贞元五年（789年）以来，已把南海诸岛的“千里长沙”、“万里石塘”列入中国版图[9] 。元至元二十九年（1292年）一月，元将史弼率海军兵力总共二万人，从泉州起锚，发舟千艘，穿过西沙和南沙群岛。[10]
自永乐三年（1405年）到宣德八年（1433年），明成祖派三宝太监郑和以及费信、马欢、尹庆、王景宏、杨威等官员率船队，每次统率水手、军卒均在二万人以上，分乘宝船五六十艘（尚不计小船）七下西洋，历经南海诸岛。明宣德五年（1430年）编绘的《郑和航海图》将西沙、南沙群岛标绘在大明版图内，为万州的管辖范围[11] 。
清同治六年（1867年），英国航道测量船莱福曼号串至南沙进行测量，并记载各岛“俱有海南渔民之足迹，以捕取海参蚧贝为活，颇多长年留居于此”。光绪九年（1883年），清朝政府抗议德国在南海各岛屿，包括西沙、南沙群岛，进行非法调查活动。[12]
民国二十二年（1933年），法国侵占中国南沙群岛的太平岛、中业岛等九个岛屿，中国政府向法国政府提出抗议。8月，广东当局派遣军舰2艘开赴南沙海区进行调查，尔后向法国政府提出抗议。[13][14]
民国二十四年（1935年），中国政府的水陆地图审查委员会编印《中国南海各岛屿图》详细标明包括南沙群岛在内的南海诸岛各岛礁的具体名称。[13]
民国二十八年（1939年），日本侵占了南海诸岛。篡改南沙群岛为“新南群岛”，在南海诸岛开采鸟粪，捕捞水产。[13][14]
民国三十五年（1946年），根据《开罗宣言》和《波茨坦公告》精神，中国内政部会同海军部和广东省政府委派肖次尹和麦蕴瑜分别为西沙群岛和南沙群岛专员，前往接管西沙群岛和南沙群岛，并在岛上立主权碑。12月12日，中国海军“太平”、“中业”两舰船载百余人至太平岛登陆，并在岛上设立“南沙群岛管理处”。[15][13]