汉赵和后赵相安无事地度过了几年，但平静只是相对的。太宁二年（324）春，后赵的司州刺史石生对汉赵河南郡太守尹平发起攻击，尹平不敌被杀，石生强行带走了五千多户人家返回驻地。

以此事件为标志，汉赵和后赵成了仇人，拉开了两个赵国之间战争的序幕，河东郡（今山西永济市西）和弘农郡一带为主战场，兵戈不断，老百姓流离失所。

北羌王盆句除归降汉赵，这又让后赵很不爽。后赵将军石佗率军对北羌王发动攻击，缴获三千多帐篷，牛、马、羊达一百多万头，大胜而回。

接连的失利让刘曜很恼火，他派中山王刘岳追赶石佗，还亲自带兵作为后援。刘岳与石佗在黄河岸边摆开阵势，刘岳叫阵，石佗出战。刘岳不愧为大将，几个回合过后，力斩石佗。后赵军一看主帅阵亡，撒腿就跑，刘岳军随后杀到，杀死后赵将士六千多人，满载而归。

后赵石生率兵屯扎洛阳，不断渡过黄河攻打晋的领土，晋司州刺史李矩、颍川郡太守郭默打不过，粮草也接济不上，派人向刘曜递交了投降书。

太宁三年（325）春季，刘曜派刘岳率领一万五千精兵赶赴孟津，派镇东将军呼延谟率兵出崤山，和李矩、郭默会师后，联合进攻石生。刘岳率军顺利攻克了孟津和石梁，斩杀、俘获后赵五千多人，大军继续挺进，把石生围困在了金墉城（今河南洛阳市西北）。

后赵中山公石虎率步兵、骑兵四万进入成皋关（今河南荥阳市泗水镇），与刘岳大军在洛阳城西遭遇。两强相争勇者胜，石虎奋勇当先，后赵军士气高昂，如猛虎下山一般，刘岳不敌，被流箭射中，退守石梁。

石虎命部队深挖沟壕，设置栅栏，把石梁团团围住，完全断绝了石梁和外面的联系。石梁城内开始缺粮，将士们饥饿难耐，实在没有吃的了，不得不杀掉战马充饥，战马一匹匹减少，突围的可能性也在不断降低。

石虎又腾出手来向呼延谟发起攻击，呼延谟不敌被杀。

刘曜得到报告后，亲自率领大军前来救援，石虎率三万精骑拦击。汉赵的前军将军刘黑攻击石虎的部将石聪，把石聪打得大败。

刘曜进军到金谷驻扎（这里有西晋时石崇修建的金谷园），一切还算平顺，但在夜里，刘曜大军突然发生了夜惊，将士们也都不清楚发生了什么事情，以为敌人攻过来了，四散奔逃。刘曜只能又退兵到渑池，但到了夜间，军中再次发生夜惊。刘曜认为这是不祥之兆，也顾不得被困城中的刘岳，班师回了长安。

太宁三年（325）六月，石虎攻陷了石梁，抓获刘岳及其手下将领八十多人，加上氐族、羌族士兵三千多人，全部押送到后赵都城襄国（今河北邢台市）。

石虎很残忍，他命令把汉赵剩余的九千多士兵全部活埋，然后立即北上攻击并州的王腾。当地守军坚持不住，城池被攻破，王腾本人被杀，石虎又命令活埋了俘虏来的七千多将士。

丢城失地、将士被杀的消息不断传来，刘曜十分悲痛，他穿上孝衣，在郊外哭祭了七天后才回到长安。刘曜觉得十分憋屈，这是他从军多年以来从没有遇到过的大败仗，他既恨又怒，染上了疾病。

颍川太守郭默被石聪打败，自己丢下妻儿，疯狂逃奔到建康。司州刺史李矩也准备投奔建康，但刚走到鲁阳就病逝了，他的长史崔宣率领士卒两千人投了后赵。

经过这轮大战，司州、豫州、徐州、兖州地区全部被后赵收入囊中，后赵与晋以淮河为界，南北对峙。