1946年9月23日，中央军委更明确指示：山野、华野两军集中行动，两个指挥部亦应合一。提议陈毅为司令员兼政委，粟裕为副司令员，谭震林为副政委。这就是华东野战军的雏形。粟裕接到中共中央的电报后，立即率华中野战军主力由益林县城北移涟水。9月27日，粟裕、谭震林与陈毅共同研究作战部署。

当时，徐州绥靖公署主任薛岳指挥下的12个军29个旅，其中12个旅集中于淮海地区。山东野战军与华东野战军合并后总兵力将达到10万人以上。9月28日，军委电示陈毅：两军会合第一仗必须打胜。意见：（一）不要打桂系，先打中央系；（二）不要分兵打两个敌人，必须集中打一个敌人。9月30日，军委又电示陈毅、粟裕、谭震林并告刘伯承、邓小平：你们须力争于三个月内外歼灭薛岳7～10个旅，刘邓则担任歼灭5军及11师。总之，今后一时期内，主要打击薛岳，转换战局。

根据指示，陈毅与华中分局诸同志一起，商定了作战部署以及山野、华野合并后的指挥体制，于10月1日上报中央。陈毅在报告中提出，集中山野、华野主力于宿迁、沭阳之间，六塘河以北地区，准备歼灭沿运河东进之敌，或西渡运河收复淮北。报告中还说：两次分局会议，他们战争方针很正确，今后集结张鼎丞、邓子恢、粟裕在一起，军事上多由粟下决心，定可改变局面。中央于10月3日电复陈毅并告张鼎丞、邓子恢、粟裕，指出：部署甚好，望坚决执行。希望你们在淮海方面打几个好胜仗。目前你处与刘邓之任务是集中全力歼灭薛岳10个旅左右，即能转换战局。

10月15日，中央电示：蒋计划乃决心与我在淮北决战。此种情况于我有利。望你们集中山野、华野全力歼灭东进之敌，然后全军西渡收复运河，于2至3个月内务歼薛岳7至10个旅，就一定能转变局势，收复两淮，并准备将来向中原出动。为执行此神圣任务，陈、张、邓、曾、粟、谭团结协和极为必要。在陈领导下，大政方针共同决定，战役指挥交粟负责。陈毅和华中分局按照中共中央的战略决策和组织决定统一行动，山野、华野主力集结于沭阳、宿迁两地，待机迎击东犯之敌。

10月18日，陈毅、粟裕、谭震林联名将上述部署报告军委。第二天复电指出：部署很好，望坚决执行。淮海地区的一场大战尚在酝酿过程中，华中野战军和山东野战军在苏北和鲁南相继举行了6次规模不等的战役，包括东台防御战、涟水保卫战、峄东反击战、台枣反击战、淮沭路反击战和盐南反击战。粟裕直接指挥了其中的东台防御战、涟水保卫战和盐南反击战。涟水保卫战，是6仗中持续时间最长、杀伤敌人最多的一仗。在作战指导上，粟裕特别注意处理第一仗与第二仗和以后诸仗的关系，强调在打第一仗时要为第二仗、第三仗创造条件。粟裕从此开创粟裕时代。