单太后是刘渊的第二任皇后，在刘渊去世时还很年轻，姿色美艳，好色的刘聪不顾人伦，竟和单太后突破了底线。宫内眼线众多，很快这件事情就传到了皇太弟刘乂那里。刘乂多次苦苦地劝自己的母亲单太后，单太后既羞愧又懊恼，不久就去世了。刘聪得知后，对刘乂的好感逐渐降低，但顾及着和单太后的感情，没有免去刘乂皇太弟的身份。

刘乂的存在对太子刘粲是个威胁，因为一旦刘聪归天，身为皇太弟的刘乂就可以名正言顺地继位。刘粲的母亲，刘聪的呼延皇后为儿子着想，同时也是为自己考虑，时常给刘聪吹枕边风。

“陛下，父死子继乃古之常理。您一辈子东征西讨，立下汗马功劳，您能够继承祖业，跟刘乂又有多大关系呢？现在刘乂虎视眈眈，您百年以后，恐怕刘粲他们兄弟就要被他斩尽杀绝了！”

刘聪其实对这个问题也有过思考，现在听呼延皇后这么一说，他越发担忧：“皇后说得对，容我慢慢想办法。”

呼延皇后道：“事久生变。太子兄弟逐渐长大成人，皇太弟看着心里一定蠢蠢不安，万一有小人从中挑拨，未必不会祸发今日啊！”

刘聪闻听大惊，暗下决心。

刘乂的舅舅单冲隐隐察觉到了朝中涌动的暗流，劝刘乂主动辞去皇太弟的位置避祸，刘乂不听。太傅崔玮和太保许遐都心向刘乂，他们对刘乂说：“陛下当年让您当皇太弟，不过是用来安定人心，做做样子，他的心思早已放在了太子刘粲那里。如今太子身兼相国之职，兼领文武百官，您日后不但不能继承帝位，恐怕连性命也会不保，既然这样，不如先发制人！我们手里有两万精兵，足够杀入皇宫，我们再做做工作，到时候宫中卫兵也会倒戈逢迎。王爷意下如何？”但刘乂性格懦弱，一听就连连摆手：“这可使不得！请勿再多言！”

事情本来就这么过去了，可是消息走漏，刘聪安插在刘乂身边的眼线荀裕把他们的谈话内容报告给了刘聪。刘聪大怒，立斩崔玮、许遐，并派部队把刘乂软禁在府中，不让他再上朝议事。

刘聪沉溺于酒色之中，国家大事基本都交给了刘粲处理。中护军靳准之前跟刘乂结怨，他劝太子刘粲道：“您现在是相国，又是太子，应该住在东宫，这样天下人就都知道您才是储君了。可现在是皇太弟刘乂住在东宫，如果日后他继位，恐怕就没有您的立足之地了。”

刘粲一直将刘乂视为心头的一根刺，现在听他们这么一说，一下子就动心了。

建武元年（317）四月，刘粲收买了刘乂的嫡系王平，让王平对刘乂说：“刚刚接到诏书，平阳将要有叛乱发生，要您速速准备。”刘乂一看说这话的是王平，也就相信了，于是命令府中官员内穿铠甲，外穿便服，以备事变发生。

刘粲让靳准向皇帝刘聪禀告道：“皇太弟要发动兵变，他的属下已经穿好铠甲了！”刘聪大惊，酒醒了一半，怎么会有这种事呢？！他火速命刘粲率军包围东宫。刘粲让靳准等逮捕了几个效忠于刘乂的氐族、羌族的首领（刘乂的母亲单太后是氐族部落酋长之女），对他们严刑拷打。刚开始酋长们实话实说，靳准命人用烧红的钳子把他们的眼珠给挖了出来，酋长们经受不住酷刑折磨，被迫承认刘乂谋反。

于是刘聪下令杀死东宫全体人员，坑杀了一万五千人，同时下诏废掉刘乂的皇太弟身份，降其为北部王。但刘乂的存在对刘粲始终是个威胁，刘粲干脆一不做二不休，不久就派人把刘乂刺杀了。

氐、羌十余万部落起兵反抗，刘聪让靳准带兵讨伐。靳准还是有一定军事才能的，一一予以平定。之后刘聪下诏，封刘粲为皇太子，兼相国、大单于。