1938年5月，日军攻占徐州，迅速展开进攻，目标直指中原腹地，开封和郑州岌岌可危。日军计划通过占领郑州，再沿平汉铁路向南推进，最终夺取武汉。为了保卫这两个关键城市，国民政府决定发起兰封会战，蒋介石亲自前往前线，亲自督战，并号召国民党军队全力消灭敌军土肥原师团。战斗异常激烈，双方互有攻守，持续了整整一周。随着日军最终占领商丘，蒋介石不得不下令撤退。

这一撤退的决定意味着15万国民党军队转移至洛阳，而河南大部分地区沦陷，开封和郑州的局势变得更加危急。进入6月，国民党高层紧急召开会议，讨论如何抵抗日军进攻。然而，第一战区的将领们却没有提出什么有力的建议，局面一度陷入沉默。就在此时，唯有参谋长晏勋甫提出了两个应对方案：第一，是放火烧毁郑州城，切断敌人的补给线，避免物资落入日军之手；第二，掘开黄河堤坝，通过洪水阻滞日军进攻的步伐。

事实上，早在兰封会战前，国民党内部就有不少人建议蒋介石开堤，但蒋介石出于保全名节的考虑，一直未做决定。然而，眼看开封已岌岌可危，形势急迫，第一战区不断催促，蒋介石最终在掘堤方案上批下了“同意”两个字。

根据蒋介石的指示，掘堤任务由53军和新8师负责。53军负责开挖赵口河堤，而新8师则负责花园口河堤的挖掘。然而，赵口河堤素有“金堤”之称，坚固如金，不容易摧毁，因此国民党高层决定派遣39军的一部分力量协助53军执行掘堤任务。然而，53军在炸开赵口河堤的时机恰巧遭遇了大风沙天气，刚开挖出的河道很快被风沙填平，而就在此时，日军已经攻占了开封，53军无奈放弃了继续挖掘的计划。

因此，掘堤的重担最终落到了新8师肩上。新8师吸取了前期失败的教训，做了充分的准备。他们首先通过密集的炮火轰击，发射了超过六十发炮弹，成功炸开了花园口堤坝。炸堤的时机恰逢暴雨天气，堤坝口被摧毁后，洪水迅速溢出，喷涌而来，水流滔滔，犹如决堤之势。水势迅速蔓延，淹没了大片土地，洪水的威力几乎摧毁了一切。

然而，花园口决堤的前期准备并不充分。尽管国民政府对部分居民进行了疏散，但大多数百姓并未得到足够的预警，导致了灾难的蔓延。黄河洪水席卷了豫皖苏交界的广大区域，超过15000平方公里的土地变成了黄泛区，500多万民众无家可归，成千上万的人们被迫流离失所。

据战后统计，花园口决堤的灾难导致近38万同胞死亡，日军在黄河决口后经过拓宽的口子，死亡人数也攀升至4万多人。而与中国人民的巨大的伤亡相比，日军的伤亡则显得微不足道，仅有7400多人淹死。日军媒体对此报道称：“中国军队在郑州以北炸开了黄河的堤防……我第二军在返回徐州后，举行了联合追悼会。”但这一报道所称的死亡人数，仅为第二军的伤亡人数，若包括其他部队，日军的实际死亡人数超过了一个师团的规模。

花园口决堤后，蒋介石立即命令国民党军队对日军展开反击，部分日军部队遭遇了沉重打击，且间接受到了黄河洪水灾害的影响，死亡人数随之增加。然而，随着黄泛区面积不断扩大，国民党军队未能有效地扩大战果，未能充分利用这一有利局面。虽然从军事角度看，花园口决堤的目标基本达成，但对日军的打击效果并未持续扩大。日军四个师团被困在黄泛区，接近两个师团的兵力丧失了作战能力，日军原定的进攻武汉的计划因此被迫推迟，战略目标发生了变化。

根据战后日本军部的资料显示，正是由于花园口决堤，日军对武汉的进攻计划推迟了三个月，最后他们只能改变战术，改为沿长江推进，重新调整了进攻武汉的路线。