1948年5月下旬根据中央军委的指示，粟裕（粟裕，1907生于湖南会同，原名粟多珍，中国无产阶级革命家、军事家，中华人民共和国十大大将之首）与陈毅、邓子恢、张震等交换意见后，定下决心：首先，以陈唐兵团第三、第八纵队由许昌以西地区向淮阳方向转移，吸引邱清泉兵团南下。然后，以第一、四、六纵队和两广纵队、特种兵纵队乘机由张秋镇、范县之间南渡黄河，进抵定陶、成武地区，力求歼灭鲁西南守敌一部，开辟战场，吸引邱兵团回转北上。在邱兵团向北转移时，立即以陈唐兵团第三、第八纵队和中野第十一纵队北进，与南渡黄河的粟兵团南北夹击，力争歼敌第5军于鲁西南地区。

陈唐兵团第三、第八纵队接到粟裕的命令后，于5月24日由许昌地区向淮阳方向挺进。国民党军果然被陈唐兵团的举动所迷惑，邱清泉率兵团部，并指挥整75师马上向太康急进，企图在胡琏兵团配合下，寻歼陈唐兵团所部。粟裕乘机指挥濮阳地区各纵队，于30、31日两个夜间顺利渡过黄河，进入郓城地区，与中原野战军第十一纵队会合。如此大部队大规模渡河南进，完全出敌意料，蒋介石急令邱清泉回兵北上迎敌。邱清泉果然狡猾异常，他向蒋介石提出：华东共军主力倾巢而至，是难得的决战机会，必须全力与共军决战。于是蒋介石又亲自急令整编75师、第83师、第25师、第72师和第 63师，火速进至鲁西南，会同第5军与我渡河部队决战。至6月上旬，敌集中在鲁西南战场上的兵力已达到11个整编师，近两倍于我。

面对敌将11个整编师集中到鲁西南战场，而且队形十分密集，无法分割，难以达到各个歼敌的目的，更难把位于中央的邱兵团挖出来予以全歼，粟裕不得不考虑调整原有作战方案。他想，眼下真的要和第5军打一仗是不现实的，是拿鸡蛋碰石头。邱清泉的部队素质虽不及第74师和第11师，但其装备和兵员数量则与他们相比有过之而无不及。邱清泉把持着鲁西南。但豫东是比较空虚的。河南省主席刘茂恩盘踞在开封，虽有3万多守军，但大都是乌合之众，战斗力很弱，且刘茂恩对军事一窍不通。实际上，开封之安危把持在整编66师师长李仲辛手中，而李仲辛又是一个只会打败仗的败将。

这时候，我三纵、八纵已达通许、睢县、杞县之间，距开封只有一日路程，若不打，必将失去一个良好的机会。先打开封，后歼援敌。粟裕初步定下了这一决心。但蒋介石不会撒手不管的，因此，必须有人把第5军邱清泉引开，待克开封后，再回头来打增援的第5军或者其他援军。必须打！粟裕暗下决心。粟裕在几经推敲与广为征询意见后，于6月15日定下了攻歼开封之敌与准备打援的最后决心，并将作战方案向中央军委及刘伯承、邓小平、陈毅、邓子恢以及华东局作了报告。

与此同时，粟裕果断地向纵队下达的作战命令是，以三纵、八纵组成攻城集团，由陈士榘、唐亮指挥，先采取奔袭手段夺占城关，尔后依托城关，迅速攻城。为确保拿下开封，另用三倍于敌的兵力，由粟裕直接指挥，担任阻援与牵制敌人的任务：九纵插入郑州和开封之间，阻击郑州援敌；中野十一纵和冀鲁豫军区独立1旅位于巨野地区，从侧后牵制邱兵团；第一、第四和第六纵队楔入定陶、曹县、民权、考城（今崮阳）地区，坚决阻击邱兵团西援开封；冀鲁豫军区和豫皖苏军区的部分兵力相机攻占东明、兰封（今兰考）并破袭陇海路兰封至野鸡岗段的铁路。

中央军委于6月17日清晨电复粟裕，完全同意先打开封，后歼援敌的方案，指出：这是目前情况下的正确方针。并告诉粟裕：情况紧张时独立处置，不必请示。同日，刘伯承、邓小平、陈毅联名来电，指出战役第一步应明确以打开封为主。