1950年10月14日，政务院发布《关于治理淮河的决定》，制定了上中下游按不同情况实施蓄泄兼筹的方针。新中国水利建设事业的第一个大工程拉开了帷幕。

1950年七八月间，淮河流域发生了特大洪涝灾害。河南、安徽两省共有1300多万人受灾，4000余万亩土地被淹。7月20日，毛泽东批示：“除目前防救外，须考虑根治办法，现在开始准备，秋起即组织大规模导淮工程，期以一年完成导淮，免去明年水患。”

在全国人民的支援下，治理淮河第一期工程于1950年11月底开工。数十万民工和工程技术人员奋战在治淮工程的工地上。1951年5月，中央治淮视察团把印有毛泽东亲笔题词“一定要把淮河修好”的四面锦旗，分送到了治淮委员会和三个治淮指挥部，极大地鼓舞了治淮大军的士气。到1951年7月下旬，第一期工程全部完工。这期工程共完成了蓄洪、复堤、疏浚、沟洫等土方工程约19500万立方米（其中沟洫工程土工约1亿立方米），石漫滩山谷水库一座，板桥、白沙两处山谷水库的一部分，润河集蓄洪分水闸一座，其他大小涵闸62处，谷坊155座。

治淮一期工程的竣工，保证了1951年淮河流域的丰收。满怀喜悦的农民，纷纷给毛泽东写信报告丰收情形。

1951年冬，淮河两岸人民又投入了治淮二期工程的战斗中。1952年7月，治淮二期工程结束；1953年的治淮工程又开始了紧张的筹备。

经过8个年头的不懈治理，到1957年冬，国家共投入资金12.4亿元，治理大小河道175条，修建水库9座，库容量316亿立方米，还修建堤防4600余公里，极大地提高了防洪泄洪能力。