军事力量总司令的指挥之下，改编为中央政府第八路国民革命军。在中国东南部和湖北北部的红色游击队得到命令，他们也要编入统一的中国军事系统中。于是，他们从各自的据点下来，集结在各处进行改编和训练。
把分成小组，战斗在长江两岸山区的15000名游击队集中起来，是很困难的。许多地方，人迹罕至。重新建立统一战线的消息和政府的命令传到那里，是需要时日的。在某些情况下，当他们下山接受改编时，反而遭到省军事当局的袭击并收缴了他们的武器，因为他们不相信内战已经结束了。有些游击队长期同外界隔绝，不理解党的新路线。一直到了1月份，这些游击队才最后完全集中起来。
叶挺将军被任命为新四军军长，他是1925-1927年国民革命中著名的“铁军”的卓越将领之一。虽然他参加的起义最后导致红军的建立，但他并不是共产党员。在中日战争爆发以前的10年中，他过着隐居生活。而担任副军长的项英，工人出身，早在1923年平汉铁路大罢工时就参加了党的活动。他曾当过苏维埃政府副主席。当红军开始向西北长征时，他是留在华南的最重要的共产党领导人。
1938年1月，我在汉口采访了叶挺将军。具有讽刺意味的是，他的司令部设在以前日本人的住所里，地上铺着日本式稻草垫，炭火盆抵挡不了长江冬季寒气的侵袭。这位身材魁梧的广东人，脸庞丰润，生气勃勃，以勇敢过人而闻名。他在房间踱来踱去，讲述了这支新的军事力量的性质及其重要性。
“我们的人都是老战士，过惯了艰苦的生活。面对武器装备处于优势的敌人，已经习以为常了。过去这些年，他们常常挨饿，有时不得不吃草充饥。但是，不管在什么情况下，他们都同人民群众保持密切联系。这就是他们能够生存下来的秘密。
“新四军的建立是作为一支在长江两岸进行游击战的流动部队。战士们正集中在这里进行训练和调整，然后开赴前线。作为一支军事力量，新四军同八路军没有任何联系。这两支军队都接受全国军事委员会的直接领导。当然，我们的许多指挥员和战士由于是共产党员而同八路军有联系。”早春季节，偶尔可以看到这支新军的小股部队行进在汉口街头。这些战士久经风吹雨打，赤脚露膝。他们行动敏捷，象全世界的山林英雄一样迈着大步。他们穿着灰色土布军服，没带任何符号。他们边走，边喊口号或唱歌。
5月初，当日军围攻亳州的时候，新四军奉命在皖东的长江两岸作战。它被限制在这个地区。这是顾祝同将军管辖的第3战区，即皖东南的一小部分。长江以北的地区多山，适宜于进行游击战，而长江以南的皖南是一个大平原，水道纵横，湖泊杂陈，实在不是游击战士的用武之地。这里没有天然屏障可以隐身。平坦的地形使日军的汽艇和机械化陆上运输工具实际上可以到处畅行无阻。日军的飞机可以发现并摧毁游击队任何明显的集结，可以侦察到他们的根据地，进行不停的骚扰。新四军70%的兵力就是集中在这样一个危险的地区。它的主要基地、训练学校和医院全都建立在这里。过去一年间，它在这里每天至少同敌人交战一次。这种经常不断的战斗往往使它打到距上海、南京这些大城市不远的地方。
八路军拥有数十万兵力，主要是在它从日军手中收复的地盘活动。新四军则不同，它的活动被限制在一定的地盘内，要受在它来之前早已建立的军政当局的管辖。在华北的许多地区，八路军和自己组织起来的游击队是单独作战的。新四军则是东战区诸种军事力量中的一种。它必须接受战区司令部的命令，仰赖它的财政和给养。在兵源的补充方面，它没有华北游击队那种自由。在争取群众支持方面，它不能像边区政府那样，实行民主政治改革，或下命令减租减息，减轻人民负担。新四军只能通过自己的言教和身教，向人民表明日军是可以打败的，它教给人民提高生产和增加收成，并为他们免费医疗。当租金和利息过份高，而地主和高利贷者又拒绝减少时，新四军鼓励农民救国会进行抗租抗税斗争，理由是，战争的负担本应由各个阶层平均承担，但富人并没有承担自己应有的份额。
访问过新四军的中国人和外国人都说，新四军通过这些活动，赢得了人民群众全心全意的支持。但这里的民主改革、群众组织、战时教育和群众参加抗日等工作，都处于较低的水平，赶不上晋察冀边区，后者在真正贯彻团结一致、共同抗日的口号方面堪称模范。
由于东战区限制民主抗日群众组织的发展，结果这里土匪猖獗，长期得不到解决。而这个问题，北方早已成功地解决了。在主要战场西移后，长江下游一带留下了大批半匪半兵的“游击团伙”。他们往往受雇于日本人，虽然偶尔也打一下日军，但必然是危害人民群众。新四军认为，要取得人民的信任，必须立即着手解决这个问题。它采取行动的头几个月，对土匪和日军同时发动了一些进攻。像北方的八路军一样，它也开始采取政治手段，分化瓦解土匪，争取其下层投向人民。但是新四军在这方面几乎没有取得什么成果，主要原因是群众组织没有普遍建立起来;其次一个原因是，长江下游一带的土匪团伙并不象北方那样是一大批散兵游勇，而是由大城市敲诈勒索的流氓领导的人数不多、组织严密的匪群。新四军在它活动的区域内迅速地镇压了或赶走了这些匪群。但在东战区的其他地区，土匪仍然猖獗。
在新四军内部，也碰到了许多困难。“我们最大的成功之处，”我首次采访叶将军一年后又见到他时，他对我说，“是我们把许多小股游击队融合成一支统一的军队。我们的战士多年来小股活动，分散作战，什么事都是大家说了算。人人都互相熟悉，计划是一块儿讨论的，实际上没有什么正式的纪律。改编为新四军后，游击队员们必须识别不同的军衔，服从他们不认得的人的命令。他们的日常生活受到严格的军事纪律的约束，这是他们以前不习惯的。大部分战士是农民，大规模组织的概念对他们是陌生的。在老战士中，有许多人反对这种'侵犯民主'的现象。
新四军连以上的所有单位都设有政委或政治部。他们的这个制度同北方八路军和游击队是一样的。政委是他所在部队的组织者和教育者。他的责任是，保证这个部队成为有觉悟的、战斗的机体。他不仅有权监督战士，也有权监督司令员。作战方案都是在他参加之下作出的。他既有很大的权力，也有重大的责任。一旦定出作战方案，军事指挥员就下命令。
据叶挺说，政府其他军队的军官90%出身于富裕的、有知识的家庭，而新四国的军官和政委70%是工农出身。这就是为什么新四军的官兵可以毫无困难地过同样生活的主要原因。新四军的军饷每月为1.50元至5.00元。官兵每日的伙食标准都是一角钱。每月可领5元军饷的，除最高级别的干部外，还有一部分在新四军宣传部门工作的日军战俘。
新四军从政府得到的财政补贴是非常有限的。“如果我们得到同别的军队同等的待遇，”叶挺说，“我们就会获得两倍于或三倍于目前的津贴。只是由于我们的军队来自劳动人民，我们才能勉强过日。政府的拨款仅够伙食费和部分装备费。政治工作、战地医院和后方医院、教育等方面的预算由我们自筹。新四军同当地行政当局没有直接联系，所以不能从其税收中得到一分钱。它的一些特殊用款必须依靠本军士兵和中外同情者的自愿捐献。这方面的捐款数目是有限的。
新四军不征兵，来这里的都是志愿兵。有些申请者被拒绝了，其原因有三：他们来自别的军队;他们来自中央政府未授权新四军接受兵源的地区;新四军认为他们当兵不是出自抗日的真诚愿望，而是别有图谋。新兵进行彻底的身体检查后，才能入伍。如果有人被发现身体不合格，则根据他们的健康情况另行分配适当工作。