然而，京杭大运河的山东河段，由于地理的原因，水量严重不足，水位经常很低，重载粮船有时根本就没有办法通过，大部分粮食便只好采用河运和陆运相结合的方法。
使人感到极不顺心的是，水陆兼程，几经周折，运费极为昂贵。从南方运一石米到北京，运费就得耗去好几石米。
可见在那时候，运河是否畅通，直接关系到朝廷的存亡。对此，明成祖权衡利弊，决心不惜代价，驱使大批民工、军工重新疏通山东运河，并命令工部尚书宋礼主持疏浚工程。
宋礼从山东、河北一带征用了大约１７万名民工、军工，经过了长达一年半时间的艰辛，终于疏通了被泥沙淤塞了的济宁至临清河段会通河。
然而，长达数百里的运河北段（南旺至临清）的河道里，却不知怎么搞的，一滴水都看不到，无论宋礼怎么着急，还是不见水来。
正当宋礼无力回天、无可奈何的时候，汶上县有个名字叫做白英的老人拜会了宋礼，并向宋礼提出了一条利用地形、水势，借水行舟的治河办法。
宋礼茅塞顿开，决心采用白英老先生所提出的办法，并诚请他参加治河工程。
白英一面精心设计，指导施工，一面亲自参加治河劳动。
白英分析山东运河北段缺水的主要原因是南旺地势太高。运河南段如果没有足够的水量，水是绝对不能越过山脊北流的，因此，他采取的第一个措施就是把分水点从马场湖移到南旺这一地方。
白英命人在东平县、戴村和堽城两处，分别筑坝堵截南流入洸水、北流归黄海的大汶河水，把汶水、沂水、洸水、泗水全部引到南旺，使水按照人们的意愿分流，这就解决了有水不能北流的难题。
白英非常巧妙地把“南旺水脊”地势高亢这个不利条件变为居高临下，可任意南北分水的有利条件，并且还能够根据运河的实际需要，用分级建闸的办法实行北六、南四的合理分流，十分之六的水量引向北流抵临清，十分之四的水量引向南流达济宁，使得山东运河南北段都维持一定水量，以便通航。
白英所采取的另外一个措施是：尽可能扩大水源，使南旺水脊能够有源源不断的河水供南北分流。
白英长期以来，一直都是生活在山东中部的丘陵地带，对这里的山山水水，一草一木是再熟悉不过的了。
大运河流经山东的河段，穿越山东中部丘陵的西侧，这块土地主要是由石灰岩所构成的连绵不断的丘陵，经过漫长岁月的溶触和风化侵蚀，整个的地势呈高低起伏状。而黄河古三角洲自西向东倾斜，同丘陵西侧的黄河冲积平原相连接，在它们之间，有着众多的低洼地带，这些低洼地又涌泉积水，积少成多，形成了一系列湖泊，这些湖泊都被白英老人看成是能够用来调节运河水量的天然水库。
这些主要由石灰岩构成的丘陵地带，在漫长的地质历史时期，经过无数岁月的风霜雨雪，还发育了为数不少的溶洞，有的则形成了地下河，而在基岩上则覆盖着第四纪疏松沉积层，含大量的地下水。
这些地下水有的出露地表成了清澈甘甜的泉水，有的还汇流成潺潺的小溪。
针对以上所述的情况，白英就颇有针对性地提出了疏泉眼，汇溪水、浚湖泊、引河水的综合措施，把河水、湖水、溪水和泉水都充分地利用起来，有效地扩大了山东运河的水源。
按照白英老先生所提出来的治河方案进行施工，山东运河终于被彻底治理好了。
永乐十三年（公元１４１５年），南北大运河终于全线贯通。放眼望去，古老的大运河又重新焕发了青春的活力。但见桅杆林立，白帆点点，大运河山东河段的运输效率比元代的时候整整提高了十倍，船只南来北往，畅通无阻，每年北运漕粮达五百万石之多。
其实，山东段运河的淤塞问题，可以说是由来已久了，只有到了白英手里，这个问题才从根本上获得了解决。
早在２４５０年前，吴王夫差为了用兵中原，开凿了一条从邗城（今江苏扬州）到盱眙的人工河道——“邗沟”，把长江和淮河这两大水系联通起来。
邗沟就成了以后大运河的最早的一段。到了东晋，在山东中部丘陵地带，桓温又开了桓公渎，这就是山东运河的雏形。
到了隋代的时候，隋炀帝杨广为了解决京都洛阳的用粮问题和能够南下扬州游山玩水，先后三次调集大量民工整修运河，以洛阳为中心，向南开了“通济渠”，经郑州、商丘、宿县、盱胎到淮河，接上邗沟，跨过长江，顺江南大运河，直奔杭州。
向北则利用桓公渎的故道，开通了“永济渠”，经步涉、新乡再过卫运河到天津。把海河、黄河、淮河、长江、钱塘江连了起来。隋代运河以洛阳为中心，把我们祖国中部的各大河流以及无数支流互相沟通，形成了纵横交错、四通八达的水上交通网。
美中不足的是，南来北往的船只，却要向西拐个好大的弯，从南到北，航程长达五千多里路。
而我们所熟知的京杭大运河直到元代才最后修成。
忽必烈定都北京以后，以洛阳为中心的隋代运河，已经无法适应元朝运输的需要。这时，著名科学家郭守敬奉命治河。
郭守敬经过大量的调查研究之后，正式决定首先引昌平县的水进京。他征招民工修筑成了北京到通县的“通惠河”，以便江南的粮食可以由水路直接运进北京城里、同时解决北京的吃水用水难问题。
郭守敬还带人开凿了济州河（自济宁至东平湖），在隋代开挖的永济渠的基础上开挖了会通河（今东平湖至临清），把隋代的南北运河裁弯取直，从江淮一直贯串到山东，再经山东运河接御河（今南运河）。