康熙皇帝于康熙三十六年(1697)五月胜利结束征讨噶尔丹的战争，班师回京。这时，他又将治河提到重要议事日程。此后，他用大约一年时间集中抓抚循蒙古和察吏安民两件事。次年十一月，撤换河道总督董安国，重新委任于成龙。从此，康熙皇帝集中精力从事治河。
当时河工中最棘手的问题是上河、下河关系一事。康熙皇帝研究靳辅的治河经验，并总结自己多年的治河实践，形成新的认识，那就是“上流既理，则下流自治”,宜集中主要精力治理上河。上河的关键是解决黄水倒灌问题。淮水势弱，不能制黄，全注运河，黄水又复灌入，运河无法容纳淮、黄两河之水，势必大量排入下河地区。这是淮、扬水灾的根源。解决的办法，唯有提高洪泽湖水位，降低黄河水位，使集中于洪泽湖的淮水，三分入运，七分归黄，这样，运道得安。康熙皇帝新形成的治河思想，向于成龙及大学士等谈过之后，又在康熙三十八年(1699)二月至五月第三次南巡过程中做了具体的部署。
第一项措施是深浚河底。三月初一，康熙皇帝巡视高家堰、归仁堤等，用水平测量，发现黄河水位高于洪泽湖，以致河水逆流入湖，湖水无出处，泛溢于兴化、盐城等七州县，造成灾害。他总结黄河有两大缺点：底高、湾多，以致各处受险。因此，治河上策唯以深浚河底为要。深浚河底，则洪泽湖水直达黄河，七州县无泛溢之患，民间田庐自然涸出。不治其源，徒治下流，终将无益。
如何才能深浚河底?康熙皇帝经过咨访，得知河直则流自急，流急则沙自刷，而河自深。因而主张在清口西，数曲湾处试行浚直。如直浚有益，逐渐将上流曲湾之处，加以直浚，这样，黄河之险自除，而河底渐深，洪泽湖之水渐出，七州县之水患可渐息。康熙皇帝于回銮途中再次告诫于成龙：黄河弯曲之处，均应挑挖引河，乘势取直。
第二项措施是改修清口。康熙皇帝发现，除黄、淮水位高低不等之外，两河交汇之口过于径直，也是引起黄水倒灌的原因之一。因而主张将黄河南岸近淮河的堤坝，更向东筑固长二三里，淮水近河的堤坝也向东湾曲拓筑，使之斜行会流，则黄河水不至倒灌入淮。康熙在回銮时途经清口，登上清口附近黄河南岸，亲自钉一木桩，命从此向东，修挑水坝二三十丈。此坝后被称为御坝，其作用是挑令黄河北趋陶庄，以便黄、淮顺行而交会，使清水畅流，防止黄河水倒灌。
第三项措施是拆毁拦黄坝。康熙一向重视云梯关以下至海口的水势情况，早在康熙三十三年(1694)正月，即曾对大学士等说过海口为黄河入海之路，海口水势迅急方能刷沙，河水才得顺流，这是紧要的疏浚工程。然
而，前河臣董安国竟于三十五年在云梯关附近误筑拦黄大坝，另挑马家港引河，导黄由小河口入海，致使下流不畅，上流淤塞。因此，在考虑浚直河道、急流冲沙时，也命令于成龙拆毁拦黄坝。
第四项措施是引水归江。康熙皇帝乘御舟沿运河南下，一路见两岸堤坝单薄低矮之处，随时令河臣增筑高厚。三月十一日，过扬州，泊新丰，他再次嘱咐河臣增筑运河堤岸，并提出了引水归江的方案。他说，高邮东岸的滚水坝、涵洞都不必用，将湖水、河水都由芒稻河、人字河引出归江。入江口如有浅处，责令挑深。如此修治，则湖水、河水俱归大江。各河之水既不归下河，下河自可不必挑浚。
康熙皇帝不仅吸收了靳辅的治河思想与经验，而且有所补充和发展。靳辅重视筑堤束水攻沙，康熙皇帝在此基础上采用了浚直河道急流刷沙法。靳辅只顾上河，不顾下河，为了护堤保运，大量利用减水坝泄水，以致下河七州县人民经常被淹，康熙皇帝是既重上河，又顾下河，尽量少用减水坝或将其改成滚水坝，千方百计减轻和防止下河灾情。至于改修清口，导河稍北，也是康熙皇帝的创举。后来他概括自己的治河思想是闭六坝(高家堰的六座减水坝)以束淮敌黄，通海口以引黄归海。
河道总督于成龙因病情日益加重，未来得及认真落实康熙皇帝的这些好措施。康熙三十九年(1700)三月，于成龙病故，康熙皇帝将江南江西总督张鹏翮调任河道总督。从此，河工进入一个新阶段。
张鹏翮，字运青，四川遂宁人，是康熙亲自发现并一手提拔起来的才能之士。他治河经验不多，因能认真贯彻康熙皇帝的指示，勤奋工作，所以取得了成功。三月十四日陛辞，请训旨。康熙皇帝针对他打算按书上写的试行修筑的想法，告诫说，你身至其地，亲加详阅，则应修之处便可悉知。古人治河之法，与今河势不同，不能照搬。最紧要的是要详加筹划：如何使黄河加深?如何将清水流出?三月十七日又具体叮嘱说，引湖水使之由人字河、芒稻河入江，我所见最真，你必须力行，不可疏忽；黄河曲处挑挖使之直，则水流通畅，泥沙不淤，你要留心。还指示必须拆毁拦黄坝。张鹏翮提出三项要求：一、撤协理河务徐廷玺，以专总河之任；二、撤河工随带人员，以免糜费；三、工部与河臣事关一体，请谕部臣，勿以不应查驳事从中阻挠。对此，康熙皇帝予以支持，命下部议行。而且，他认识到河工无成，一切弊端起于工部。该部掌握河工钱粮，借机勒索贿赂，贪图肥己，以致河工总无成效。因此决定河工经费直接拨给总河，不经过工部，使其无法掣肘。
张鹏翮谨遵康熙皇帝谕旨，上任后首先视察黄河入海口。他刚过云梯关，就见拦黄坝巍然如山，中间一线，涓涓细流。下流不畅，无怪乎上流之溃决，使他深感皇帝命拆除拦黄坝确实有理。随即在四月二十一日动工，将拦黄坝尽行拆去，挑挖深通，全与黄河八十三丈之水面相符；急堵马家港(引河),使水势不致旁泄，尽由正河而行，至五月初九完工开放，水势畅流，冲刷淤沙，旬日之间，深至三丈，宽及百丈有余，滔滔入海。康熙皇帝批准张鹏翮的奏请，赐名“大通口”,并满意地告诉大学士等人河工大有希望。
随后，张鹏翮按康熙皇帝指授方略，对其他几项工程次第兴工。康熙皇帝充分肯定了张鹏翮的工作，认为他遇事精勤，从此久任河务，必能有益；谕令户部、工部、内阁等，对张鹏翮经办的各项治河工程，保证供应，所需船只水手、什物银两等，及时拨给，满足所请，不得有误。在康熙皇帝的大力支持下，康熙至四十年十二月(1701年1月),各工程先后完成，张鹏翮上疏告捷：“治河事宜，蒙皇上指授。疏通海口，水有归路，黄河刷深，坚筑高家堰，广辟诸口，得以引灌畅流；筑归仁堤，导泗州(安徽泗县)上源之水入于河，疏人字、芒稻等河，引运河之水注长江；筑挑水坝、疏陶庄引河(改修清口、导黄而北),通黄水而畅清流，使永无倒灌之患；挑虾须等河，引下河积水入于海。其余各处工程，指授周悉。但河工刚完成，保固为要，恭请圣驾于来春二月桃汛未发之前，亲临河工指授。”此外，他还改造中河，并多次挑挖引河，浚直黄河河道，排除险工，使水畅流。康熙皇帝认为，这些工程虽然完成，但是否坚固尚待考验，来年经过水汛之后，方可验其成功。而且，他还指出，高家堰仍令人担忧，因烂泥浅一带出水不畅，并且洪泽湖水位上涨，据说比二十三年高有数尺。这不仅威胁下流高家堰大堤，而且极易使上流泗州、盱眙遭灾。
张鹏翮体会到康熙皇帝未雨绸缪之意，在康熙四十一年(1702)正月提出八项保固防险工程，以迎接春汛、秋汛两汛的考验，但对洪泽湖上流未曾虑及，结果盱眙等三县于春汛时被淹。伏秋水涨，徐州至海口黄河西岸堤坝及山阳至邵伯运河西岸堤坝乃至高家堰大堤，先后发生数次险情，幸而抢救及时，未致成灾。同年九月，张鹏翮奏报秋水情形，康熙皇帝从中得知，按他指示在清口附近所筑挑水坝(御坝)在这次防汛中发挥了巨大作用，其他各处工程亦皆保固，甚感欣慰。
康熙四十二年(1703)正月十六日至三月十五日，康熙皇帝以淮黄告成，进行第四次南巡。这次南巡主要是对张鹏翮三年来所建河工项目进行验收。检验结果，大都很满意，仅在微小地方做些调整和补充。如至桃源烟嫩、龙窝等地，见顶冲危险，命增筑挑水坝，个别卑矮堤工也命增高，到中河仲庄闸口，见其与清口相对，命改由杨家庄出口。回銮时，巡视了高家堰、翟家坝等处堤工，见王公堤单薄，命加帮高厚；高家堰大坝个别有残缺石工，命即兴修；又命选职衔稍大、身家殷实之人担任高家堰防险。到清口，命将西坝加长数丈。赐张鹏翮御制《河臣箴》和《览淮黄成》诗。诗中写道：“使清引浊须勤慎，分势开疏在不荒。虽奏安澜宽旰食，诫前善后奠金汤。”意在告诫他不要麻痹大意，要继续努力做好善后工作。
回銮之后，他欣喜地概括治河的成就说，向来黄河水高六尺，淮河水低六尺，不能敌黄，所以常患淤垫。今将六坝堵闭，洪泽湖水高，力能敌黄，则运河不致有倒灌之患，所以河工能告成。昔日黄水泛涨，或与岸平，或漫溢四出；今黄河深通，河岸距水面丈余，纵遇大涨亦可无虞。同年三月十八日，康熙皇帝五十寿辰，他以四海奠安，生民富庶，而河工适又告成，特颁诏天下，大沛恩赏。
他总结多年治河成功的经验，主要有两条：一条是皇帝重视、关心，将治河当成国家大事，投入大量人力、物力。这一条是中国历代有作为的帝王的共同经验。康熙皇帝更为突出，他以大量的精力和心血，亲自调查研究，到民间咨访，制定治河方针、方案，并具体指导实施。为了稳妥可靠，还进行典型试验。如浚直河身，直流冲沙，即是在北京附近的永定河试行有效，取得成功，再向黄、淮推广的。另一经验是任用得人，选任称职的总河。指出：“于成龙不遵旨行事，致无成功；张鹏翮遵奉朕言，一一告竣。”康熙皇帝很重视这一条，治河成功后奖励河官，加总河张鹏翮太子太保。
康熙皇帝于康熙四十四年(1705)二月初九至闰四月二十八日进行第五次南巡。目的是亲阅中河南口改建工程，筹度善后之规，其他有应加修防者，也随时指示，以图经久；另外，上次南巡正值山东重灾，经两年大力赈济，不知民间生活是否有所改善，也想亲临视察。三月初八，康熙皇帝巡视杨家庄新开中河闸口及附近堤岸、民居。回到行宫，赋诗二首，其第二首诗写道：“春雨初开弄柳丝，渔舟唱晚寸阴移。庙堂时注淮黄事，今日安澜天下知。”从中可以看出他心情挺好。
之后，康熙皇帝想到河工虽已告成，善后方略更为紧要，尤其要考虑如何防止清口一带黄水倒灌问题。由于不倒灌是河工告成的主要标志，所以河臣往往回避此事，即使倒灌，也不敢承认。他认为黄水暴涨暴落，总难免偶然发生倒灌之事，不能以此即谓治河失败，而应防患于未然，主动采取对策。于是，他指示张鹏翮：我亲临阅视，见修建天妃闸甚当。倘黄水涨至五六尺，清水不涨，势弱不敌黄，黄水自然倒灌，亦必至之理，不可因此即谓治河失策。若遇倒灌，即将天妃闸暂下板，蓄清水全力敌黄。不过数日，黄水即可退。遇粮船过时，即起板开放，若黄水不灌，不必下板。此外，他还提出几处应修挑水坝，帮修卑薄堤坝等，目的也是为了蓄清敌黄。他见高家堰石堤仍未最后告成，便批评张鹏翮说：你们惟见清口之水流出即以为功成，不思防御，倘高家堰六坝之水泛溢，则清水力弱，而黄水必又倒灌。高家堰所关紧要，不要忽视。实事求是，防患于未然，这是康熙皇帝五次南巡的主题思想，对巩固治河成果至关重要。
张鹏翮与江南江西总督阿山、漕运总督桑额，为防治洪泽湖水侵入泗州、盱眙，请于泗州之东流淮套另开河道，直达张福口，以分淮势，免洪泽湖之异涨，保高家堰之险堤。康熙因年事已高，不欲亲临，但诸臣一再奏请，不得不在康熙四十六年(1707)正月二十二日至五月二十一二日进行第六次南巡。
二月二十日，康熙皇帝在清口登岸，骑马到曹家庙视察溜淮套工地，见地势甚高，虽开凿成河亦不能直达清口，与他们进呈图样迥乎不同。且所立标竿，多有在坟上者，若依所立标竿开河，不仅坏民田庐，甚至毁民坟地，因而命立即停工，说与其开溜淮套无益之河，不如再挑浚洪泽湖出水之处，令其宽深，使清水愈加畅流。
这次南巡，康熙皇帝不是担心黄水倒灌，而是清水敌黄有余，因而主张使淮水稍泄其流，乘水未涨时预为绸缪，将来水虽大涨，必不至于危险。他还指示：将大墩分水处西岸草坝再加宽大，使清水多出黄河一分，少入运河一分，则运河东堤不致受险；又于蒋家坝开河建闸，引水由人字河、芒稻河下江，由下河及庙湾等处入海，不唯洪泽湖之水可以宣泄，而盱眙、泗州积水田地，也可渐次涸出。水小，则下板蓄水敌黄；水大，则启板泄水，且便于商民舟楫往来。祥符闸，口门甚窄，趁此黄水不甚高时，委干员将归仁、安仁、利仁三闸改宽泄水，则徐州一带民田可无淹没之患。布置就绪，返回京城。
康熙皇帝在全面肯定和吸收靳辅治河经验基础上，又以自己的崇高地位，全力以赴，一意承担，取得空前的成就是理所当然的。同时，在治水理论和实践上他多有创举。如反对人顺水性之说，而坚持让水顺人意；断然关闭高家堰的唐埂六坝，以蓄清敌黄，解决黄水倒灌、积沙淤塞清口问题。特别值得称道的是在指导思想上，他时刻想到人民利益，尽量不开减水坝，以免淹没人民田宅。康熙三十八年(1699),康熙皇帝第三次南巡的各项部署，是其治河方案的全面体现；后三次南巡，对这一方案进行了检查和补充。实践中，因时因地制宜，大胆创新，百折不挠，终于获得了巨大成功。
但康熙皇帝十分严谨，不以自己的成功和经验视为至理。他认为治河之道不可执一，曾说：“自甲子年(康熙二十三年，1684)起六次南巡，详观河形，一年异于一年。”康熙四十年(1701)三月，河道总督张鹏翮请将皇帝上谕治河事宜，由史馆汇集成书，永远遵守。礼部议复：“应如所请。”而康熙皇帝则不以为然，其主要理由：一是河性无定，不可执一法以治之。唯委任得人，相其机宜而变通，方能有益。如不计后果，硬性规定，不但后人难以仿行，自己问心，也难自信；二是河工尚未告竣，不可急于成书。