宋军在平定北汉时，在太原集结了数十万部队。赵光义意图乘战胜的余威，一举夺取幽云地区。但是，宋军“攻围太原累月，馈饷且尽，士疲乏”，需要休整。同时“人人有希赏意”，需要对攻克太原进行论功行赏以利再战。因此大多数将领不赞成立即向辽进军，但无人敢直言谏阻。只有崔翰怂恿赵光义，认为机不可失，时不再来，如能挟战胜之威，攻取幽州如探囊取物。赵光义于是决意北伐，命曹彬负责部署军队行动，潘美组织粮运管理后勤。其战略方针是：以幽州为主要作战目标，迅速自太原转移兵力东进，越过山丘重叠、沟壑纵横的太行山，乘辽无备，实施突然袭击，一举夺占幽州。一旦幽州得手，必然震动其余诸州，然后乘胜收复全部幽云地区。
太平兴国四年（979年）五月二十日，宋军从太原分路东进，翻越太行山，进入河北平原。由于宋军每天以百里的速度迅速开进，暴露在宋军侧后的辽东易州（治岐沟关）守军孤立无援，不战而降。这时，辽北院大王耶律奚底、将领萧托古和伊实王萨哈在沙河（今易县东南的易水）迎击宋军，企图阻止宋军向幽州推进，被宋军击败。六月二十一日宋军进至涿州，辽涿州守将开城投降。辽南院大王耶律斜珍看到宋军兵锋甚锐，不敢正面交锋，率兵进驻清沙河北（在今北京清河镇一带），以声援幽州，从而使幽州、得胜口、清沙河结成犄角之势，并保持了幽州与山后的联系，因而增强了幽州辽军固守待援的决心。赵光义认为耶律斜珍只能凭险固守，便以一部牵制其军，部署主力围攻幽州。六月二十五日对幽州展开围攻：宋渥率部攻南面，崔彦进率部攻北面，刘遇率部攻东面，孟玄喆率部攻西面。辽将韩德让、耶律学古一面加强守备，一面安定人心，以待援军到来。
直到六月三十日，也就是幽州被围六天后，正在游猎的辽景宗耶律贤才得到消息，大敌当前，辽国的安危决于一线，面对危局，有人居然主张放弃幽、蓟，退守松亭和北岸口。关键时刻，耶律休哥挺身而出，力排众议，认为幽州绝不可轻易放弃，并请求亲率精骑五千前往救援，如果不能取胜，再撤退不晚。辽景宗支持了他的意见，并斥责统军使萧托古：“卿等不严侦候，用兵无法，遇敌即败，奚以为将？”即命耶律休哥代替耶律奚底为北院大王，率领五院兵马南下，会合耶律斜轸解幽州之围。此前，辽南府宰相、太保耶律沙奉命救援北汉，白马岭败后，率军返回，刚好与耶律斜轸会师。耶律休哥率军日夜兼程，自古北口南下，绕道西山，直扑幽州。
这边，宋军对幽州的攻势越发猛烈，赵光义移驾城北，连续三次亲督诸将攻城。镇守顺州的辽国雄武军节度使刘延素、知蓟州事刘守恩相继投降，幽州形势危急，但宋军连日苦战，攻城不下，军心不免懈怠，曹翰、米信所部在城南掘土得螃蟹，曹翰分析说：“蟹，水物而陆居，失其所也，且多足，敌救兵将至之象；又，蟹者，解也，其班师乎？”此事或许是后人附会，但反映了宋军的心理，可赵光义的注意力全被幽州吸引，居然未做任何阻援部署。
七月六日，正当赵光义指挥攻城时，耶律沙的援兵突然从沙河赶到，在幽州北门外的高梁河袭击了攻城的宋军，虽说事出意外，但宋军毕竟兵多将广，鏖战到黄昏时分，辽军渐渐不支。入夜，就在宋军胜利在望时，耶律休哥和耶律斜轸的两路大军赶到了，分左右翼同时向宋军发起猛攻，耶律休哥的五千契丹铁骑“人持两炬、高举双旗”，如猛虎下山，势不可当，慌乱中，宋军不知辽军多寡，军心动摇。幽州城内的耶律学古见援兵已至，开门列阵，四面鸣鼓，猛攻宋军，幽州居民也出来助阵，呼声震动天地，耶律休哥本人更是身先士卒，奋勇向前，辽军士气大振，无不以一当百，誓死相拼。
激战中，赵光义身中两箭，心胆俱裂，再也顾不上皇帝的威严，自己弃马乘驴车，在数十骑兵护卫下向南逃走。此时，宋军将士不知道皇帝已经溜号，大队人马仍然在幽州城外苦战不休，耶律休哥身被三创，血流如注，仍然勇猛无比，黎明时分，宋军终于全军溃败，乱成一团，四散奔逃，辽军追杀三十余里，缴获兵仗、符印、粮馈、资财无数，斩首万余级。赵光义跑的倒很快，一昼夜狂奔三百余里，天亮时遁至金台驿，混乱中，宋军一部分将领因皇帝失踪，竟欲拥立武功郡王赵德昭为帝，耶律休哥因伤势严重，不能骑马，只能轻车追击至涿州，宋军残部这才得以侥幸逃去。
7月9日，内供奉官阎承翰带来前方已经大败的消息，赵光义惊魂稍定，让坚决主战的殿前都虞候崔翰到前线安抚溃军，7月11日，宋军残部退至定州，稳住阵脚。为挽回面子，赵光义追究战败之过，斥责中书令、西京留守石守信“从征失律”，又贬彰信节度使刘遇为宿州观察使。在返回开封前，赵光义又做了一番安排，命崔翰、定武节度使孟玄喆守定州，彰德节度使李汉琼守镇州，河阳节度使崔彦进等人守关南，给以“便宜从事”的权力，临行前，他还给将领们打气：“辽兵必来侵边，当会兵设伏夹击之，可大捷也。”
高梁河大捷，辽景宗论功行赏，以幽州守将韩德让等人能够安定人心，守卫城池，特别予以褒奖，加封韩德让为辽兴军节度使、耶律学古为保静节度使，耶律沙力战有功，赦免白马岭战败之罪，耶律休哥、耶律斜轸以战功受知于辽景宗，从此执掌兵权，开边拓土，成就一代功业。
北宋第一次攻幽州之战，可谓是不折不扣的惨败。宋军事先无周密计划，攻克太原后，日行百里，长驱东进，既未控制战略预备队，又未占领幽州城北的要地得胜口，围而不严，致使屡攻不克，痛失先机。幽州为辽国南京，断无轻言放弃之理，宋军却毫无打援的准备，可谓粗心大意。战争初期，辽军受到突然袭击，一些城市沦陷敌手，幸赖幽州城坚，砥柱中流，挡住了宋军的攻势，一代名将耶律休哥帮助辽景宗力排众议，决策南下救援，更是培本固基、稳定人心的关键一招。高梁河之战，耶律休哥临机制变，虚实相应，乘宋军疲惫，与耶律斜轸以翼侧包抄战术，发挥骑兵的优势，一举破敌，不愧为名将。