1946年9月至11月，山东野战军和华中野战军两大主力部队在苏北会师。经过传达学习中央军委指示，总结交流作战经验，统一协同作战思想，两军实现了初步整合，并于当年12月和1947年1月并肩取得了宿北和鲁南两场战役的胜利。随后，在短暂的战争间隙阶段，两大野战军及时在临沂附近进行了部队休整和指挥机构的调整，进一步完善和完成了部队整编工作，使得部队更加正规，战斗力进一步增强。

一场大捷引出了隐患

　　1946年12月中旬，刚刚会师的华中野战军与山东野战军主力紧抓战机，在宿迁、沭阳、新安镇之间果断发起宿北战役，歼灭国民党军3个半旅，共2.1万余人，致使国民党军第69师师长戴之奇兵败自杀，一举扭转了前期的被动战局。不久之后，两大野战军于1947年1月2日至20日联合发起鲁南战役，歼灭国民党军整编第26师、第51师和号称“国军精华”的第1快速纵队等共5.3万余人，缴获大批坦克、重炮等武器装备。此战后，陈毅挥笔写下了《鲁南大捷》一诗：“快速纵队走如飞，印缅归来自鼓吹。鲁南泥泞行不得，坦克都成废铁堆。快速纵队今已矣，二十六师汝何为？徐州薛岳掩面哭，南京蒋贼应泪垂。”
　　仗虽打胜了，但在战中和战后，刚刚会合的两大主力部队，也逐渐暴露出一些“夹生”现象。首先是指挥问题。山野和华野虽然进行了两次大的联合作战，但由于中央没有明确的任命和分工，在作战时还是两套指挥机构，各自指挥自己的部队。虽然在作战中相互配合协同，从总体来说是比较好的，但在指挥和配合中也表现出了一定的不便和缺陷。其次是思想作风问题。当时的部队较多较杂，番号既有八路军，也有新四軍，还有地方部队;军装也区别较大，八路军是黄军装，新四军是灰军装，地方部队的服装更是五花八门。在这个大背景下，一些部队中的山头主义和本位主义出现苗头。再次是部队中产生了一些错误的思想。华野的部队是在华中打了胜仗以后北上的，主力部队的离开使得华中根据地的面积缩小了一半，许多官兵的家乡沦为敌占区。连战连胜加之时间紧迫，对部队的形势教育和阶级教育进行得不够全面、深入，部分指战员滋长了骄傲情绪，对战争的艰巨性、残酷性认识不足，对运动战的方针领会不深。当时许多官兵不理解这种大踏步后退的战略方针，对开至经济基础较差、环境相对艰苦、饮食习惯有较大差异的鲁南地区带有一定的抵触情绪。当时在一些思乡心切的华野官兵中流传着一个顺口溜：“反攻反攻，反到山东;手拿煎饼，口咬大葱。大好形势，思想不通;有啥意见，要回华中。”而鲁南军民对南方部队也有一些稀奇古怪的看法：讲话像鸟鸣，好像外国军队;大部分留分头，好像文明军队（当时“文明”这个词似乎不是用来夸人的）;不少人穿着丝绸衬衣，带着缎面棉被，好像少爷军队;等等。
　　虽然这些误解随着部队之间、军地之间的逐渐熟悉和了解，都不成为问题了，但起初还是出现了不少矛盾和问题。更引起两大野战军领导高度警觉的是纪律问题。连打了两场战役，加之部队调动较大，干部骨干不可避免受到损失，新战士和解放战士补充较多，连续的战斗转移使部队无法进行全面细致的政治教育，少数部队中出现了违反俘虏政策、破坏群众纪律等现象，打胜仗缴获多也使得一些部队产生了“发洋财”和“打埋伏”思想，不愿意把缴获的新式武器装备全部上交，陈毅、粟裕等不得不专门为此下达《关于一切缴获上交统一处理的命令》。这些问题，使得陈毅、粟裕等野战军领导体会到部队及时进行整顿整编的必要性和紧迫性，否则必然给下一步的作战和根据地建设造成干扰和困难。因此，陈毅于1947年1月12日电请中共中央就地进行整编。14日，毛泽东代表中央复电同意部队休整两三个星期，统一军队指挥和军队建设。

一个报告统一了思想

　　部队的统一首先是思想统一，特别是中高级领导干部的思想统一。1947年1月下旬，陈毅、粟裕、饶漱石、张鼎丞、陈士榘等一起开会研究了地方机关合并与华东全军进行统一整编等问题，进一步统一思想，并就华东野战军整编方案向中央军委作了详细报告说明。其间，华东局于1月下旬在临沂召开了高级干部会议，华东局书记饶漱石传达了中共中央对当时形势和任务的指示，并作了《英勇奋斗，迎接民主新高潮》的报告，动员华东全党全军为迎接中国革命新高潮的到来而奋斗。此次会议不仅初步总结和部署了土地改革、生产、支前三项地方中心工作，为华东军民粉碎敌人的进攻奠定了坚实有力的基础，也为下一步的部队整编提供了前提和保障。在此基础上，华东野战军总部也于1月下旬在临沂前河湾村召开了师以上干部会议（鲁南会议）。这是华东野战军军史上一次十分重要的会议。会上，饶漱石传达了毛泽东为中共中央起草的《迎接中国革命的新高潮》和中共中央有关时局的指示精神。随后，陈毅作了题为《一面打仗，一面建设》的著名报告。
　　在报告中，陈毅首先肯定了山野、华野两大主力会合后取得的宿北、鲁南战役胜利的成绩，然后从人民军队建军路线的高度，针对部队中存在的不良倾向，号召全军加强团结，建立整体观念，实行统一集中领导。报告指出，为了保证今后的大规模作战，一定要加强党的领导，加强政治工作，努力打破山头主义、本位主义和游击主义等不良习气。陈毅的报告，是华东部队革命化、正规化建设的一个纲领性文件。它贯彻了中共中央和毛泽东的一系列指示精神，针对性很强地指出了部队当时存在的主要问题，提出了具体可靠的改进措施，对统一部队思想认识，加强部队全面建设，提高战斗力凝聚力，具有重要现实意义。因为战争间隙时间紧迫，部队很快又投入到新的战役准备中，这个会议和部队休整时间都很短，一些问题可能并没有得到彻底和根本解决。华东野战军各部队的作风建设和思想改造后来又经历了几次大规模的学习整顿，但是鲁南会议和陈毅的报告是一个良好的开端，也确实在提高认识、统一思想和加强团结等方面起到了立竿见影的效果。陈毅在报告中明确提出，“华东野战军是山东、华中部队的汇合，是解放区兵力最大最集中的地方，是解放区爱国自卫战争的主要战线之一，又是美蒋集中大军进攻的主要方向，特别是今后，山东地区的战争将成为中国人民与美蒋恶势力的决战场之一，因此我们的任务很大，担子很重”。“在此非常时期，为了执行中央所给的任务，我想向同志们提出‘一面打仗，一面建设’的双重任务，是为了能迅速纠正部队中现存的缺点，更能加倍提高战斗力，更能迅速地最后击败美蒋。”后来，华东地区革命战争形势的发展变化，也逐步验证了上述结论，更证明了鲁南整编的正确和及时。

一次整编完成了浴火重生

　　在鲁南会议召开的同时，按照会议决议制订的《华东野战军整军计划方案》，迅速上报中央军委并很快获得批准。根据中央军委的命令组建了华东军区、华东野战军，原新四军、山东军区、山东野战军、华中军区、华中野战军等番号同时撤销。华东军区以陈毅为司令员，饶漱石为政治委员，张云逸为副司令员，黎玉为副政治委员，陈士榘为参谋长，舒同为政治部主任，辖鲁南、鲁中、胶东、渤海、苏北、苏中等六个军区及淮化支队、东江纵队和华东军政大学等地方部队及直属单位，共30多万人。山东野战军、华中野战军合并为华东野战军，并成立中共华东野战军前线委员会，陈毅任司令员兼政治委员和前委书记，粟裕任副司令员，谭震林任副政治委员，陈士榘任参谋长，唐亮任政治部主任，下辖第1、2、3、4、6、7、8、9、10、11、12纵队和一个特种兵纵队，共20多万人。为适应指挥作战需要，以原新四军军部加上山野指挥部成立了华东野战军总部;以华东野战军指挥部加上华东军区司令部合并为华东野战军前线指挥部，负责陇海前线作战指挥。
　　这次整编，实现了山野与华野两大主力的真正合并，统一了组织、编制，进一步实现了作战指挥上的集中统一，是华东野战军正规化建设非常关键的一步。虽然因马上面临国民党军的大规模进攻，整编工作的一些具体措施和环节并没有立即展开，有些甚至是拖到莱芜战役之后才继续完成，但整编工作是卓有成效的。通过这次整编，华东野战军一跃成为当时全国各解放区兵力最强的一支主力部队，且兵力空前集中，指挥高度统一，更加有利于大兵团作战，为在山东战场大量地歼灭敌军创造了有利条件。在此之后，华东军区和华东野战军进行了孟良崮战役，全歼国民党“御林军”整编第74师，粉碎了国民党军对山东解放区的重点进攻;配合刘邓大军发起鲁西南战役，揭开了人民解放军战略进攻的序幕;取得济南战役的胜利，揭开了解放战争战略决战的序幕。然后，参加淮海、渡江战役，把胜利的旗帜一直插到了东南沿海，为中国人民的解放事业作出了巨大贡献。