最早醞釀在中國建立共產黨的是陳獨秀和李大釗。1920年2月，為躲避反動軍閥政府的迫害，陳獨秀從北京秘密遷移上海。在陳獨秀離京途中，李大釗前去護送，這時，他倆共同商討了在中國建立共產黨組織的問題。
　　陳獨秀到上海后不久，就開始到工人群眾中宣傳馬克思主義。他到碼頭工人中了解罷工情況，到中華工業協會、中華工會總會等勞動團體去作調查。他還邀請北大的進步學生和各地革命青年，深入工人中開展調查，了解工人的狀況，并在此基礎上編輯出版了《新青年》第7卷第6號《勞動節紀念號》。《勞動節紀念號》是中國先進分子與工人運動相結合的產物。同年4月中旬，陳獨秀聯合中華工業協會、中華工會總會、電器工界聯合會、船務棧房工界聯合會、藥業友誼聯合會等七個工界團體籌備召開“世界勞動節紀念大會”，并在籌備會上發表了《勞工要旨》的演講。在陳獨秀的指導下，上海各業5000多工人于5月1日舉行集會，提出“勞工萬歲”等口號，通過了《上海工人宣言》。此后，陳獨秀又主持創辦《勞動界》、《伙友》等刊物，向工人宣傳馬克思主義，以啟發工人的覺悟，組織真正的工會。此外，俞秀松等一批進步青年深入到工廠中做工，調查和研究如何開展工人運動。
　　陳獨秀在向工人宣傳馬克思主義的過程中，積極開展建黨工作，并從上海馬克思主義研究會成員中發現建黨的骨干。
　　1920年春，正當中國先進知識分子積極籌備建黨的時候，經共產國際批準，俄共（布）遠東局海參崴（今符拉迪沃斯托克）分局外國處派出全權代表維經斯基等人來華。經李大釗介紹，維經斯基一行前往上海會見陳獨秀。維經斯基等人在了解到中國工人階級的情況和馬克思主義在中國傳播的情況后，認為中國已經具備建立共產黨的條件，并對李大釗和陳獨秀的建黨工作給予了幫助。在維經斯基等人的幫助下，陳獨秀以上海馬克思主義研究會為基礎，加快了建黨工作的步伐。1920年6月，他同李漢俊、俞秀松、施存統、陳公培等人開會商議，決定成立共產黨組織，并初步定名為社會共產黨，還起草了黨的綱領。黨綱草案共有10條，其中包括運用勞工專政、生產合作等手段達到社會革命的目的。此后不久，圍繞著是用“社會黨”還是用“共產黨”命名的問題，陳獨秀征求李大釗的意見。李大釗主張定名為“共產黨”，陳獨秀表示完全同意。
　　經過醞釀和準備，在陳獨秀主持下，上海的共產黨早期組織于1920年8月在上海法租界老漁陽里2號《新青年》編輯部正式成立。當時取名為“中國共產黨”。這是中國的第一個共產黨組織，其成員主要是馬克思主義研究會的骨干，陳獨秀為書記。