中華民国時期には、中国国民党と、時に協力し（1924年の第一次国共合作）、時に敵対し（1927年の蒋介石による4・12クーデター（上海クーデター）により国共分裂）、軍閥および日本との戦いを続けた。
当初は、コミンテルンの指導が強く、また、ソビエト連邦への留学生が「中国共産党」の中心勢力であった。 そして広大な農村社会を抱える中国の特殊性を理解せずに大都市の労働者による武装蜂起を革命の基本路線と考えたコミンテルンの指導に忠実に従ったために、第一次国共合作に固執しすぎ、また、国共分裂後は、極左冒険主義に走りすぎるなどの路線の失敗を犯した。 一方で並行して、中国国民党からの熾烈な白色テロの標的ともなったため、中国国民党と比較しても、十分な抵抗勢力とはなりえなかった。
このような中で毛沢東は一農村に拠点を置きて活動していた。そうした農民を対象とした社会主義化の動きはそれまでのマルクス主義のような社会主義思想のように労働者階級を対象としたものではなかった事が今までのマルクス主義とは異なった点である。都市部は国民党に押さえられて、共産党の活動拠点は山奥の華中や華南の農山村地域であり、1931年には江西省瑞金で「中華ソビエト共和国臨時政府」を樹立した。
しかしこの時期、共産党は上海から移動してきたソ連留学組によって指導されていた。共産党軍は中国国民党軍の包囲攻撃に抵抗することができず、1934年から逃避行（長征を後に称される）（ロングマーチ）をした。その過程の1935年に開催された遵義会議において毛沢東の指導権が確立したと言われる。逃避行は奥地でソ連に近い陝西省延安に拠点を構えることで終わった。1935年のコミンテルンの国民党の協力せよとの指示が出され、1936年の西安事件（西安事変）、1937年盧溝橋事件、ソ支不可侵条約を経て、国民党とのいわゆる第二次国共合作を成立させた。日中戦争の際には八路軍などを編成して、華北を中心とした解放区を拠点に日本軍との正面衝突は避けて力を温存させた。蒋介石をして、ソ連との不可侵条約締結などで、反共から容共化に変えさせた。
日本の中西輝政や中川八洋は、「コミンテルン、中国共産党は日本、中国国民党の共倒れ、中国共産党の漁夫の利を得ようと画策していた。そしてその計画は第二次大戦後、実現することとなる。このことは、ソ連崩壊によって明らかになった資料や、中国共産党幹部の発言などから証拠付けられる。日中戦争が全面的に勃発した後も、日本・中国国民党間の和平を妨害しようとした」と論じている。従来の中国共産党史観から離れた論である。
1945年に日本が第二次世界大戦で敗北し、中国国内の日本軍隊が全面降伏すると、それまでの中国国民党との妥協的態度から、ソ連の後押しで国民政府打倒共産党政権設立に動いた。内戦を回避したいアメリカ等の意向もあり、毛沢東と蒋介石の会談による双十協定などでの妥協が図られたが、結局は国共内戦に突入させた。
満州を占領したソ連の後押しで東北から南下して国民党軍を圧倒し、最終的には国民政府を倒して中華人民共和国を建国した。国民政府は台湾へ遷都した。
1945年12月、ジョージ・C・マーシャル将軍はトルーマン大統領から中国における全権特使に任命され、13ヶ月中国に滞在したが、ソ連とアメリカで世界分割を行う密約を行っていた外交問題評議会（CFR）、太平洋問題調査会（IPR）の勢力に組した彼は、内戦において本来劣勢であった共産党が優勢となるような行動を意図的に取った、と言う主張があり、下記の点が指摘されている[1]。この疑惑は、後にアメリカ政界でマッカシー議員によるマッカーシズム（赤狩り運動）にまで発展した。
マーシャルは、国民党が有利な状況となると蒋介石に圧力をかけて再三停戦命令を出させ、国民党の優勢がピークとなった1946年末には、無条件の即時停戦命令まで下した。
マーシャルは中国での武器や弾薬の通商禁止措置を実施したが、それにより国民党が弱体化する状況で、ソ連が、旧日本軍が満州地域に残した物資やアメリカからの援助物資を、共産党に横流しするのはまったく黙認した。
1948年3月にアメリカ議会が国民党に対して、2億7千5百万ドルの経済支援と1億2千5百万ドルの緊急軍事支援を議決したが、マーシャルと国務省の親中国派（=世界分割派）は、同年11月まで実施を意図的に遅延させた。この間に、国民党軍の敗北が決定的となった。
国務省官僚を含む太平洋問題調査会（IPR）は、アメリカ国内で積極的な中国共産党擁護プロパガンダを展開した。（IPRはマッカーシズムで攻撃され解散した）
1949年10月1日には中華人民共和国の建国を北京で宣言した。中華人民共和国の建国によって政権政党となった「中国共産党」だが、安定的に発展することはできなかった。
当初、ソ連をモデルとして社会主義建設が始まったものの、1956年のニキータ・フルシチョフによるスターリン批判以降はソ連共産党との関係が悪化、1960年からは公開論争にまで発展し（中ソ論争）、武力衝突までに至った。
中ソ論争の頃から「中国共産党」は独自路線を歩み始めるが、党内部では反右派闘争、大躍進政策などの路線闘争、権力闘争は絶えず、毛沢東が自らの実権を回復するために1966年に発動した文化大革命でその混乱は極に達した。