今天的京杭大运河由北京南下，经河北、天津、山东、江苏、浙江六省市，把海河、黄河、淮河、长江、钱塘江五大水系连接起来。历史上以运粮为主，习惯称为运粮河，也叫漕河。大运河与万里长城是古代劳动人民创造的伟大业绩，被称为“东方奇迹”。
早在2500年前的春秋时期，吴王夫差即位当年，即下令在今天苏州西北开握运河，引水向西北流，经望亭、无锡、常州进入丹阳境内，然后连接孟河，通向长江，以便沿河北上。这条河道全长85公里，开挖于公元前495年。这便是南北运河最早的一段，史称江南运河。
公开前486年，吴国打败了越国，夫差一心想北上争雄于中原，便征发大量民夫，在长江北岸修筑邗城（扬州），并开挖邗沟。南起扬州，北至淮安，连接长江与淮河。这两段运河的开挖，使苏州至淮安的水路畅通，这便构成了南北运河的最早的南部雏形。
公元587年，雄才大略的隋文帝平定了江南、统一了中国定都洛阳。为发展江南经济派人将邗沟裁弯取直，引淮水南流，经扬州入长江。隋炀帝杨广即位后，为了加强中央集权，实施对江南的政治、军事、文化统治，于公元605年，征集100多万民夫，开挖通济渠。通济渠西从都城洛阳西苑，经开封、至淮安（山阳）入淮，连接邗沟通向长江。于公元610年，又开通了自镇江到杭州的江南运河，从洛阳至杭州全线贯通。
隋炀帝为了用兵东北，征战辽东、高丽。于公开608年又开挖了以洛阳为起点的北至涿郡（北京）的永济渠。这条永济渠从洛阳经山东西部临清、德州到达北京。这样就形成了以洛阳为中心，南抵杭州，北至北京的一个大三角走向的运河系统，全长2700多公里。
关于隋炀帝开运河之事，由于他急工好利，妄用民力，坊间有不少小故事谴责炀帝，褒少贬多，下面我们引用范文澜著《中国通史简编》一段文字，看史家是怎样评说的：“611年，隋炀帝乘龙舟自江都直达涿郡。两渠共长三千余里，隋炀帝带着百官和两岸步行的候选士人数千人，走了五十多天到涿郡，平均一天只走五十多里。普通民船如果一昼夜走一百里，自江州到涿郡不过一个多月，南北水路交通比陆路确实便利得多。
隋炀帝开通济渠、永济渠（江南河），是要尽量消耗江南的财富，满足自己淫侈生活。开永济渠，是要进行对高丽的侵略战争。他伤害大量民命，罪恶极大，但运河修成后，南北交通有显著的改进，对经济联系、政治统一都起着广泛的作用。河北、河南、淮北、淮南、江南人民通过隋炀帝的发动，作出了伟大的贡献，从长远的利益来看，当时人民所受的伤害，是取得了补偿的。”
2700多公里的隋运河凿成后，经历隋、唐、五代十国、南北宋700多年的历史变故，其间由于自然的、人为的原因，黄河数次决口，淤塞严重，但是由于历代统治阶级政治、经济、军事的需要，一再疏浚，航道基本畅通。唐初李世民东征及在鱼台演武坡演兵，军需物质就是通过通济渠航道供应的。宋初赵匡胤多次下诏疏浚菏河运河，再取道永济渠北上抗击北方入侵者。南宋壮元、抗元名将文天祥被俘后押解大都，即从隋运河的江南运河、邗沟过淮河入泗水抵鱼台入菏河运河再北上永济渠到达大都。文天祥在鱼台留下了千古绝唱《发鱼台》：“晨炊发鱼台，碎雨飞击面。团团四野周，冥冥万象变。疑是江南山，烟雾昏不见。岂知此中原，今古经百战。英雄化为土，飞雾洒郊甸。天寒日欲短，游子泪如霰。”这是公元1279年冬天的一个早晨，押解文天祥的船就要从鱼台城南门外的菏河上起锚出发了。文天祥站在甲板上，抬头望了望那南门城楼上匾额上的“横菏”二字，不尽仰天长啸，吟出一联诗句：“从此断却江南路，化作杜鹃啼血归”。文天祥眼泪模糊地看着近效远甸，战争使田圃荒废，百姓涂炭，“民安在？填沟壑。叹江山如故，千村寥落。”他恨自己无力回天，“何日请缨提锐旅，一鞭直渡清河洛！”然而这一切都不可能了，他的眼在流泪，心在流血……
1271年元朝定都北京，军事、政治中心在北京，经济中心仍在江南。公元1283年，征民夫在山东境内开挖北起东平，南至济宁的“济州河”，全长75公里。六年后即公元1289年，又开挖了北京至通县的通惠河。这样大运河从北京直达杭州。全长1794公里，比隋运河缩短了1000多公里。
京杭运河全程可分为七段：北京市区至通县段称通惠河，通县至天津段称北运河，天津至临清段称南运河，临清至台儿庄段称鲁运河，台儿庄至清江段称中运河。清江至扬州段称里运河（古称邗沟），镇江至杭州称江南运河。
京杭运河全长1794公里，有三分之一的流程在山东境内。元初京杭运河的走向，由镇江过长江，进入扬州运河，北上淮安，转入黄河（黄河南流时期），漕船沿黄河西行，至河南中滦镇，经过180公里的不通航，到达卫河（也称御河）岸边的淇门，经御河沿隋运河故道北达北京。
元至元二十年（1283年），疏通了济宁以南的泗水航道，开挖了济宁至东平75公里的济州河，由济宁北上到达东平入大清河（现在黄河山东段的入海河道）顺流而下，出海到天津，再经通惠河直达北京，这就是京杭运河在山东境内的第一次大改道。
这次改道因疏通了泗河河道，济宁以南运河航行于泗河河道。泗河从鲁桥穿过枣林闸、南阳闸流入鱼台，经谷亭、八里弯绕湖陵城南下，经徐州注入淮河。
此航道开通以后，大清河入海口逐渐淤积，无法通航。元·至元26年（1289年）至元·泰定二年（1325年），历经25年，又开挖了南起东平山，北至临清与南运河相沟通的新河道，全长125公里，定名为会通河，使京杭运河又南北贯通了。此时的东平一带是广袤的沼泽地，施工极其艰难，动用百万民夫，耗时25年，修筑管制闸31座，可见工程之艰巨。这是京杭运河的第二次改道。
京杭运河济宁以南的泗水航道，因位于昭阳湖西侧洼地，经常受到黄河泛滥冲淤的危害，无法正常航行。明·嘉靖44年（1566年）又开挖了北起三河口，向南经夏镇再至留城（现已沉入湖底）70公里的南阳运河。这样济宁以南的京杭运河河道又改在了湖东侧高地，解决了黄河冲积的侵害，这是大运河的第三次改道。
京杭运河济南往南的河段，虽由湖西改在了湖东，因为与湖东丘陵山区的河流相通，但水源不足，如遇雨季水源忽有忽无，局部河的航道极易淤浅。明·隆庆年间开始至明万历34年（1606年）又开挖了一条新河，南起夏镇李庄水口，经韩庄后东行南折，汇苏北加河后经邳县至宿迁汇入黄河，全长130公里，又贯通了京杭运河的河道。这就是京杭运河在山东的第四次改道。到清咸丰五年（1855年）黄河于河南铜瓦厢决口北流进入山东境内，截断了会通河（东平山清至临清的一段河），黄河夺大清河入海，阻断了会通河北流的水源，从此以后，京杭运河在山东段即由黄河为界分为南北不通的两段。
京杭运河一向为鲁运要道，对鲁南一带的经济发展和文化交流，曾起到了重要作用。谷亭是鲁南重镇，京杭大运河的必经之地，境内水运起步较早。公元1289年（元·至元26年）。凿通济州河，开创了南北航道京航运河的漕运，谷亭置站。公元1451年（明·永乐13年）。废除海运和陆运，整个南北运输完全依靠京航大运河，鱼台一段自然承担了繁重的漕运任务。每年由徐州北上经过鱼台的粮船有12000艘以上，运输量超过400万担。来往的商、客船更是络绎不绝，谷亭为两京漕运咽喉。明·工部管河主簿驻谷亭，调度官家漕运和管理河道，县驿丞、河桥水驿、闸官均驻谷亭，并有常备役夫，保障船只的顺利通航。据《鱼台县志》（康熙板）记载，谷亭是“曩为漕运咽喉，河滨聚落，士商辐辏，南北要津。每至薄暮，下鞍停招，呼舟兢渡，人马蚁集，篙橹鳞交。迫斜日之在山，喧东方于月上，盖不亚都会云。”鱼台水运在明代曾盛极一时。
到了十九世纪后期，南北海运兴起，津浦铁路通车，运河的作用逐渐缩小了。清咸丰年间，黄河北迁以后，山东境内河段水源不足，河道淤浅，南北断航，因此对谷亭等运河沿岸城市的经济发展造成一定影响。但此时大运河的局部河段仍然可通航。尤其在1370多平方公里的微山湖丰水期，南北商客民船，从微山湖周边的内河汇集南阳、谷亭码头，谷亭镇仍较为繁华。
解放后，运河河道进行了拓宽、加深，裁弯取直，增进现代化的船闸，全线恢复通航。并在江都、淮安等处修建了水利枢纽工程，使大运河已成为“南水北调”的主要通道之一，让古老的京杭大运河在国家的经济、文化建设中发挥更大的作用。