由于阿合马的在职时间很久，使他愈加变本加厉，令朝廷内部矛盾愈加激化。

他肆意贪婪骄横，拉扯提拔奸党郝祯、耿仁，将其升迁到和自己同在中书省任职，并且相互勾结、蒙蔽皇帝。不仅如此，积欠的赋税他也不予免除，致使百姓逃亡迁移。京兆等路每年收入的赋税达到了五万四千锭，但他还是认为不符合当地的实际情况。近郊的良田，只要是老百姓的，他就抢夺过来占为己有。

他暗地里接受贿赂，表面上却做得执法严明。朝中官员虽对阿合马的行为了如指掌，但忽必烈对阿合马非常信任，一般人根本不敢站出来揭发。值宿禁卫的秦长卿上书揭发了阿合马的罪行，结果不久就被阿合马治罪，关进了大牢，在监狱里被人害死了。

在阿合马恃宠专权期间，许衡、廉希宪、张文谦等一大批儒臣对阿合马的行为甚感不满，一直在与阿合马做激烈的较量和斗争，支持他们的还有受儒学影响极深的皇太子真金和蒙古勋贵。

公元1282年三月，皇太子真金随忽必烈到上都。一个叫王著的益州千户闻讯后，秘密打造了一把大铜锤，并联合自称有障眼法的妖僧高和尚密谋。两人乘夜进入京城，假称皇太子要回京师参加佛事，到了中书省。

进入中书省后，王著便骑马去见阿合马。并在阿合马面前诈称太子马上就到，要求中书省所有官员到东宫前等候。

阿合马信以为真，立刻派遣右司郎中脱欢察儿等人骑马出关迎接。阿合马的部下往北走了十几里路，并没有见到太子的身影，反而被王著的人拦了下来。

王著见时机成熟，便命人伪装成太子和太子的随从，并责备阿合马的部下无礼，把他们全都杀了，还夺了他们的马匹，往南进入健德门。

因为是夜里二更，所以虽然是王著走在前面，但也没有人敢问他们是谁。他们直接到了东门，下了马后，伪装成太子的人，连喊带骂地指责随后赶来的阿合马不懂礼数，令其下马下跪。

争执间，王著乘机拿出事先藏在袖子里的铜锤敲向阿合马的脑袋，阿合马当场毙命。