在营建洛阳新城的同时，隋炀帝为了保卫东都的安全，又大兴工役修筑了一系列国防工程。仁寿四年(604)十一月乙未(初三),隋炀帝亲幸洛阳，丙申(初四),即诏“发丁男数十万掘堑，自龙门东接长平、汲郡，抵临清关，渡河，至浚仪、襄城，达于上洛，以置关防”。这是隋炀帝即位后又一项浩大的工程。
所谓堑，即阻断交通的长沟，这条沟从黄河东岸的龙门往东绵延数千里，横跨今山西、河北、山东数省，地域相当广袤。在洛阳以北两百里开外修筑一道长壕，横断于华北平原，并在沿线各地设置关防，即岗哨，用于保卫东都。这项浩大的国防工事，其作用在于隔阻骑兵，目的在于防止河北一带的叛乱，可能是鉴于汉王杨谅反叛，也可能用以对付北疆游牧族的铁骑。此举亦可以看作是营造东都的配套工程，且先于东都营造。这一浩大工程役丁当不下五十万人。
但长堑的作用有限，数年后隋炀帝又大兴工役修筑长城，用于防范塞外的突厥骑兵。
大业三年(607)四月，隋炀帝下诏“巡省赵、魏”,这次巡幸在外足有两年的时间，巡幸在外的隋炀帝仍不忘国家的安全问题，五月戊午(初十),“发河北十余郡丁男凿太行山，达于并州，以通驰道”。在太行山横截开出一条驰道，从河北达于并州太原府，既便于隋炀帝巡行车马的通过，也便于战时调兵。此可谓在掘长堑之后，隋炀帝下令修筑的第二项国防工程。据《隋书·地理志》,黄河以北预此役者估计有恒山、赵、信都、武安、博陵、魏、汲、襄国、雁门、武阳、河间、平原、清河、离石等十几郡，当时各郡合计有一百九十余万户，若平均每两户抽一丁，此役共役丁在一百万人左右，费时大约在三个月。另外，在晋东南加上前述穿越太行山通洞内(今河南沁阳)的九十里直道，及洛阳与长安之间所开蔓栅道以及修大运河时在运河岸边筑御道，还有大业六年(610)所修西起榆林北突厥牙帐，东达于蓟(今北京市西南)的三千里御道，隋炀帝在修筑道路方面的工程量也是很大的。结合大运河工程，其总体思想是搞网状分布的交通线，在适应开凿运河的东南地区开运河，在不宜开河的西北地区则开驰道，交通四通八达，畅通无阻，以适应国家统一后的形势。而且，这些工程都是同步进行，可以说是统一规划中的统一举措。
隋炀帝为了确保北部边疆不受游牧族铁骑的侵犯，于大业三年(607)七月和大业四年(608)七月，他又连续两次下诏大修长城。因此，他亲往塞北，达于燕赵，亲自督促，相当重视。如此看来，长堑、驰道与长城是一组配套相关的大型国防工程，长城是第一道防线，驰道用以快速调兵，长堑是第二道防线，拱卫东都，以确保中原的和平安宁。
众所周知，万里长城是秦灭六国之后，秦始皇为了进一步有效地防御北方游牧民族的侵扰，他下令大规模修筑长城，把从前秦、赵、燕三国的长城连接起来，西起陇西郡的临洮(甘肃境内),东至辽东，筑起一条长达万里的城防，从此，万里长城便巍然屹立在祖国大地上了。
修长城是秦汉以来历代中原王朝相沿不变的防御工作。隋朝建立后，为防御北方的游牧民族突厥、契丹、吐谷浑的掳掠，也多次修筑长城。隋修筑长城总共有七次，其中隋文帝时修筑了五次。
第一次在开皇元年(581)四月，隋文帝“发稽胡修筑长城，二旬而罢。所修地段是今山西北部。这年十二月，北齐贵族高宝宁勾结突厥，与沙钵略可汗合军攻陷隋临渝镇，隋文帝命周摇为营州总管六州五十镇诸军事，敕“缘边修堡鄣，峻长城以备之”,这是第二次。临渝即今山海关，所修乃河北东段原北齐长城。第三次是开皇五年(585),隋文帝令司农卿崔仲方“发丁三万于朔方灵武筑。长城”,西距河，东至绥州， “绵历七百里，以遏胡寇。朔方在今陕西横山县，灵武在今甘肃灵武县西南黄河东岸，绥州在今陕西绥德县，这是一道西起宁夏川，东至黄河边，横跨黄土高原的长城。第四次是开皇六年(586)二月，隋文帝命崔仲方“发丁男十一万修长城，二旬而罢”。《资治通鉴》则记载“隋复令崔仲方发丁十五万于朔方以东，缘边险要筑数十城”。
开皇七年(587)二月，隋文帝又“发丁男十万余修筑长城，二旬而罢”。这是第五次。
从开皇元年(581)到开皇七年(587),隋文帝五次修长城都集中在隋灭陈之前，其中穿越黄土高原的由灵武至绥德这段长城，一次征发了十几万人。除此以外，工程量都不是很大，一般都是一旬或二旬而罢。突厥降服后，隋文帝就再也没有下令修过长城。
隋炀帝修长城仅两次。大业三年(607)七月， “发丁男百余万筑长城，西距榆林，东至紫河，一旬而罢，死者十五六”。这道长城西起今内蒙古托克托县黄河以南，东至今山西境内的苍头河，源出今山西平鲁县，在今内蒙古凉城县西南，长两百多里，横跨隋定襄郡(治今内蒙古和林格尔北)。据《隋书·地理志》载： “定襄郡大利县有阴山，有紫河”。这是一道新筑的长城，目的是防御突厥。担任长城修筑总监的是阎毗，此役征发民役百余万，用十来天时间筑长城二百多里，可谓是兴师动众的急役。
第二次是大业四年(608)七月辛巳(初十),隋炀帝“发丁男二十余万筑长城，自榆谷而东”。但其具体方位却无法确定。
隋炀帝这两次下令修长城时，正赶上缘边诸郡遭到大旱灾，他为构筑长久的国防体系竟不顾人民死活，征发百余万民夫忍着饥饿筑长城，结果造成“百姓失业，道瑾相望”,一片凄惨景象。隋炀帝主观上虽然胸怀壮志，干的是一番雄伟的大事业，客观上却极端地走向了反面。
但隋炀帝却没有感到自己有什么过错，他竟意气风发，亲至边塞，诗兴大发，随即写了一首古诗《饮马长城窟行》,副标题为“示从征群臣”:
萧萧秋风起，悠悠行万里。
万里何所行，横漠筑长城。
岂台小子智，先圣之所营。
树兹万世策，安此亿兆生。
讵敢惮焦思，高枕于上京。
北河秉武节，千里卷戎旌。
山川亘出没，原野穷超忽。
拟金止行阵，鸣鼓与士卒。
千乘马骑动，饮马长城窟。
秋昏塞外云，雾暗关山月。
缘严驿马上，乘空烽火发。
借口长城侯，单于入朝谒。
浊气静天山，晨光照高阙。
释兵仍振旅，要荒事方举。
饮至告言旋，功德请庙前。
这首诗大概写于大业四年(608)八月间，史载，三月“乙丑(十二日),车驾幸五原，因出塞巡长城，到七月辛巳(初十)诏修榆谷以东长城”,炀帝在北部边塞盘桓达半年之久。这首诗气势豪迈，一扫先前当皇太子时出塞诗那种思妇幽怨情怀，豪情壮志，不吐不快，是一气呵成的佳作。隋炀帝写诗“示从征群臣”,认为长城乃“先圣之所营”,是“安亿兆生民”的“万世策”。有了这些坚固的工事，历代帝王才得以“高枕于上京”。由此可以看出，隋炀帝显然不是只顾眼前利益，而是考虑长远的国家利益。因而，在太平时日他不惜任何代价，以致置百万子民生死于不顾，加紧修筑长城。在他看来，筑长城既是一件神圣伟大光荣、利国利民、造福后代的事业，就要干好干快。隋代雕刻隋长城西起宁夏，向东由陕北经榆林，到黄河西岸，再由偏关而东，分内外两支：外长城利用北魏所筑长城，经紫河、今张家口、独石口、古北口、马兰峪，直到临渝关(今山海关)。内长城利用北齐所筑长城，自偏关向东南经汾阳、惇县、紫荆关、居庸关，与外长城复合。隋长城虽沿袭了北魏、北齐长城，但也新筑了河南和阴山一带的长城。
“城上一杆土，手中千万杵。”在崇山峻岭间修长城，其劳动的艰辛可想而知。专制君主用强制手段，急征大批劳力才得完成如此宏大的工程。隋炀帝两次修长城，比其父隋文帝五次修长城为少，但规模却大大超过其父当政时期。隋文帝修长城是直接抵御突厥，突厥降服后就不再举役。隋炀帝修长城时突厥已降服，并没有侵扰之事，但在太平之时隋炀帝依然举百万之众修长城。
在古代主要以弓箭、刀斧、戈矛等冷兵器进行战争时，城墙、关隘、长堑、壕沟对于防御、守备的确具有重要意义。特别是北方游牧民族骑兵非常剽悍，如果没有坚固的防御工事，则中原王朝就随时有被他们攻入的危险。但大型工程要量力而行，不要一哄而上， “一旬而罢”,人海战术抢工赶期，搞得民众家破人亡，让民众承受不了。隋唐以后，万里长城仍在继续修筑，明朝修长城前后就有十八次之多，把长城西端由隋朝时的宁夏延长至嘉峪关。今天我们看到的长城即明长城，其中东部相当长一段沿用了隋长城。