1920年8月，陈独秀、李汉俊、沈宏庐、杨明斋、李达等人在上海发起建立了中国第一个共产主义小组。据回忆，当时的名称为“共产党”，或“共产党临时中央”。不久，北京、武汉、长沙、济南、广州以及旅日、旅法勤工俭学青年中也建立了共产主义小组。当时各地成立的党组织也不叫共产主义小组，而称“共产党支部”或“共产党小组”。采用“共产主义小组”这一名称，主要是根据中共“一大”给共产国际的报告中有“中国的共产主义组织”、“小组”和“地方小组”的提法，后来统称为“共产主义小组”。