中国的特殊国情决定了武装斗争贯穿于中国革命的全过程，而要开展武装斗争必须有一支共产党独立领导的人民军队。没有代表人民利益的新型人民军队，武装斗争就无法进行，就不可能取得革命的胜利。人民军队的创建，从某种意义上讲是国民党反动派逼出来的。1926年7月，国共合作的北伐战争爆发。以叶挺独立团作为先遣队，国民革命军在湖南、湖北战场上首战告捷，接着又向江西、福建战场和浙江、安徽、江苏战场迅速推进，所到之处得到了工农群众的有力配合和支援。北伐战场的节节胜利，使北洋军阀分崩离析，国民革命形势大好。窃取北伐领导权的蒋介石乘机收编军阀部队，扩充自己的实力，国民革命军从出师时的八个军发展到四十多个军。羽翼渐丰的蒋介石在帝国主义和江浙财团的干涉、拉拢、利诱下，迅速向右转，加紧与中外反动势力勾结，仇恨和压制工农运动的倾向日益公开化，以军治党，以军干政，直到向共产党人和革命群众举起屠刀。从上海“四一二”政变到武汉“七一五”分共，国共两党的合作从矛盾分歧走向彻底决裂，革命形势急转直下，北伐胜利成果毁于一旦，数以万计手无寸铁的共产党员和工农运动骨干倒在血泊之中。蒋介石集团背叛革命，依托在北伐中壮大起来的武力，建立起新的军阀统治，国民革命军大多成为维系反动政权的工具。

中国共产党人在血的教训中彻底觉醒，深刻认识到，没有一支共产党独立领导的人民军队，中国人民不可能获得真正的解放，即使取得一些局部胜利也会丧失殆尽。人民也在挫折中切身感受到，没有人民的军队就无法实现和维护人民的利益，甚至人身安全也难以保证。他们热切期待着人民军队的诞生，推翻压在头上的三座大山，获得彻底的解放。正如毛泽东所说：“为创造中国人民的军队而奋斗，是全国人民的责任。没有一个人民的军队，便没有人民的一切。对于这个问题，切不可只发空论。”(《毛泽东选集》第2版第3卷第1074页)创建人民军队是党在大革命失败以后的当务之急。根据中共中央的决定，以周恩来为书记的前敌委员会发动了南昌起义，打响了武装反抗国民党反动派的第一枪，随后又爆发了毛泽东领导的秋收起义，张太雷领导的广州起义，以及遍及全国各地的近百次武装起义。中国共产党开始进入创建人民军队，独立领导革命战争的新时期。

有了党独立领导的军队，并不等于这支军队自然成为完全新型的人民军队。要把以农民和起义官兵为主要成分的军队建设成能执行革命政治任务的武装集团，党需要做大量艰苦的工作。建设新型人民军队的核心问题是确立和坚持党对军队的绝对领导。三湾改编确定支部建在连上，连有党支部，班排有党小组，连以上设党代表，营团设党委，部队统由党的前委领导，为人民军队建设奠定了牢固的组织基础。古田会议纠正了非无产阶级思想和单纯军事观念，明确规定红军的性质、宗旨和任务，从根本上划清了新型人民军队和一切旧军队的界限，强调加强红军的政治工作，并提出在军队内部实行××制度，建立官兵一致、军民一致的新型关系，为人民军队建设指明了正确方向。