中国共产党的最早组织是在上海首先建立的。1920年8月，上海共产党早期组织正式成立。参加者有陈独秀、李汉俊、李达、陈望道、俞秀松等，陈独秀任书记。上海共产党早期组织成立后，实际上成为各地建党活动的联络中心，起着中国共产党发起组的重要作用。
1920年10月，由李大钊、张申府、张国焘3人发起成立北京共产党早期组织，李大钊为负责人。罗章龙、刘仁静、邓中夏、高君宇、何孟雄、缪伯英、范鸿劼、张太雷等先后加入，成员大多为北京大学马克思学说研究会的骨干。
1920年秋，董必武、陈潭秋、包惠僧等在武昌秘密召开会议，正式成立武汉共产党早期组织，推选包惠僧为书记。
1920年秋，施存统、周佛海等在日本东京建立旅日共产党早期组织，施存统为负责人。
1920年秋冬之际，毛泽东、何叔衡等在长沙，以新民学会骨干为核心秘密组建共产党早期组织。
1920年底至1921年初，王尽美、邓恩铭等在济南建立共产党早期组织。
1921年春，在与无政府主义者组织的“共产党”分道扬镳后，陈独秀等重新组建广州共产党早期组织，成员有谭平山、陈公博、谭植棠等，陈独秀、谭平山先后任书记。
1921年，张申府、周恩来、赵世炎、刘清扬等在法国巴黎也建立了由留学生中先进分子组成的共产党早期组织，张申府为负责人。
这些共产党早期组织的名称不一，有的叫“共产党”，有的叫“共产党支部”或“共产党小组”，它们的性质相同，都是组成统一的中国共产党的地方组织，后来被通称为“共产主义小组”。
各地共产主义小组成立后，有组织、有计划地扩大马克思主义的研究和宣传，批判各种反马克思主义思潮，发起建立社会主义青年团，创办工人刊物，开办工人学校，领导工人成立工会，开展工人运动，进一步促进了马克思主义同工人运动的结合。这样，正式成立中国共产党的条件就基本具备了。