新四军是“国民革命军新编第四军”的简称，是由南方红军游击队改编而成的。

西安事变和平解决后，1937年2月开始，以周恩来为首的中共代表团与国民党蒋介石、顾祝同等在西安、杭州、庐山、南京举行了多次谈判，直至1937年8月22日，国民政府军事委员会才正式公布了将红军改编为国民革命军第八路军的命令。中共中央任命朱德为总指挥。但南方红军游击队的改编问题，蒋介石坚持　“北和南剿”的方针，调集大军继续对南方各游击区实行“清剿”，妄图消灭南方的红军游击队。为此，以周恩来为首的中共代表团坚持有理、有利、有节的策略原则，同国民党方面进行了针锋相对的斗争，经过艰苦曲折的谈判，终于达成将江西、福建、广东、浙江、湖南、湖北、安徽、河南八省十四个地区的红军游击队改编为国民革命军新编第四军的协议。

为尽快在南方实现国共两党合作抗日，1937年8月1日，中共中央发表了《关于南方游击区域工作的指示》，提出在保存革命武装，保证党的绝对领导的原则下，红军游击队可以与国民党地方当局谈判。项英陈毅直接与国民党江西省政府代表进行了谈判，南方其他游击区也与国民党地方当局进行了谈判，最终实现了红军游击队的改编。

从一定意义上说，新四军是在民族利益高于一切、国共两党共同抗日救国的基础上平衡的产物。中共是从抗日救国大局出发，提出要南方红军游击队下山改编，以便走上抗日救国最前线，实现直接对日作战，而蒋介石则是为了其统治的安宁和借对日作战来消灭异己。所以在军长人选问题上，双方难以达成一致。国民党原意要陈诚或张发奎任军长，中共不同意；中共提议由叶剑英或彭德怀任军长，国民党又反对。

叶挺任新四军军长之职，最早是周恩来以个人身份在上海向叶挺提议的，并由叶挺向国民党方面提出。叶挺“明知道有很多困难，而为了促进团结，想对于国内团结与抗战，尽自己的力量”，毅然应允。叶挺找到保定军官学校的老同学、当时正在上海指挥淞沪抗战的前敌总指挥陈诚，提出将其编成一个军，番号为“国民革命军新编第四军”，以示继承北伐战争时期老四军的光荣传统。经陈诚向蒋介石汇报以后，蒋介石迅予核准。1937年9月28日，国民党政府军事委员会铨叙厅未与中共中央协商，即单方面“任命叶挺为新编第四军军长”。10月6日，蒋介石电告国民党江西省政府主席熊式辉：鄂豫皖边区高敬亭部、湘鄂赣边区傅秋涛部、湘粤赣边区项英部、浙闽边区刘英部和闽西张鼎丞部的红军游击队，均编入新四军，由叶挺调用。12日，熊式辉转发了蒋介石的电文，表示国民革命军新编第四军的番号正式公布。蒋介石之所以任命叶挺为新四军军长，是认为叶挺已经脱离共产党十年之久，可以利用叶挺来控制这支部队。中共方面则考虑，共产党的军队是由党绝对领导的，“不许国民党插进一个人”。叶挺虽已脱党，但是北伐名将，最重要的是要摸清他的政治态度。张闻天、毛泽东发出电报，要在南京的中共代表博古、叶剑英征求叶挺意见，是否愿意恢复党籍，叶挺表示：“在党的组织外，但愿在党的领导下进行工作。”经过中共中央领导人与叶挺谈话之后，中共中央决定同意叶挺担任新四军军长。11月7日，项英应召到达延安，向党中央详细地汇报了南方三年游击战争的情况。叶挺与项英（已内定为新四军副军长）在延安见了面。8日，中共中央召开欢迎叶挺、项英大会，毛泽东致欢迎词说：“我们为什么欢迎叶挺军长呢？因为他是大革命时代的北伐名将，因为他愿意担任我们的新四军军长，因为他赞成我党的抗日民族统一战线的政策，所以我们欢迎他。”叶挺在讲话中表示：“革命好比爬山，许多同志不怕山高，不怕路险，一直向上走。我有一段，是爬到半山腰又折回去了，现在又跟上来。今后，一定遵照党所指示的道路走，在党和毛泽东主席的领导下，坚决抗战到底。”11月8日，毛泽东提出新四军军部第一部设南昌。12日，叶挺抵汉口，根据毛泽东“军暂住武汉”的指示，着手筹建新四军工作。12月13日，中共中央政治局作出《关于对南方游击区工作的决议》。14日，政治局决定撤销中共中央分局，成立中共中央东南分局和中共中央军委新四军分会，均以项英为书记，陈毅为军分会副书记，曾山为东南分局副书记。12月25日，叶挺和项英在武汉召开新四军军部干部会议，意味着新四军正式成立。

1938年初，南京国民政府军政部公开公布项英任新四军副军长，张云逸任参谋长、周子昆任副参谋长。随后，毛泽东又任命袁国平为政治部主任，邓子恢为副主任。1月6日，项英、曾山率新四军军部人员到达南昌，驻南昌三眼井高升巷1号“张勋公馆”。9日，军部正式对外挂牌办公。

新四军军部成立以后，由各红军游击队改名的“抗日义勇军”等抗日武装，陆续下山，改编成新四军四个支队，分别由陈毅、张鼎丞、张云逸、高敬亭担任司令员，全军10300人，6200支枪。

1938年2月20日，叶挺军长下达了一、二、三支队向皖南歙县岩寺集中的命令，四支队则向皖中舒城、无为地区集中。至此，由南方八省十四个地区（不含琼崖）的红军游击队改编和组建新四军胜利完成，并开至抗日最前线。