汉桓帝时，马超之祖父马平为天水郡兰干县尉，后失官留居陇西，娶羌族女子为妻，生马腾。汉灵帝末年，马超之父马腾与金城的边章、韩遂等人共谋起事于西凉，“杀刺史郡守以叛，众十万余，天下**”（《三国志·武帝纪》）。初平三年（192），马腾、韩遂率兵到长安。朝廷任韩遂为镇西将军，遣还金城；任马腾为征西将军，遣驻屯郿县（今陕西眉县）。这期间，马腾和韩遂结为异姓兄弟。结拜初期，马腾和韩遂关系亲密，但不久即反目为仇，“转以部曲相侵，更为仇敌。腾攻遂，遂走，合众还攻腾，杀腾妻子，连兵不解”（《三国志·马超传》裴注《典略》）。

此时，曹操的势力已经逐渐壮大，曹操意欲夺取天下，而西凉诸侯与其貌合神离，因而他一直对西凉虎视眈眈。其时，与曹操并起的另一支地主武装力量—— 袁绍集团势力更强大，故曹操须先集中力量对付袁绍，以定中原。因此，他对西凉马腾和韩遂等采取了先抚后伐的战略。他派司隶校尉钟繇驻守关中，“持节督关中诸军”（《三国志·钟繇传》），调解马腾与韩遂之间的矛盾；并调马腾驻槐里（今陕西兴平），升为前将军，封为槐里侯，以“北备胡寇，东备白骑，待士进贤，矜救民命”（本传裴注《典略》）。然后，对马腾的力量加以利用。在用兵西凉之前，破袁绍之后，曹操以张既劝说马腾，令马腾遣其子马超跟随钟繇出战。马超随钟繇打败了勾结匈奴、作乱于平阳的袁绍残余势力高干、郭援。马超“为飞矢所中，乃以囊囊其足而战，破斩援首”（同上），杀了郭援。在这次战争中，马超英勇绝伦，显示了非凡的才能。

曹操此举，可谓一箭双雕，既剪除了异己，又笼络了马腾，解除了西凉之忧，从而加强他对西凉的控制。

建安五年（200），曹操在官渡击败袁绍，之后又通过对其他豪强势力的不断征讨，进一步巩固了他的势力。建安十三年（208），曹操任丞相后，积极筹措南征，但对于关中和西凉的割据势力终不放心，对马腾父子尤为戒备。他思虑再三，决定让马超赴京任职，作为人质，以掣肘马腾。但曹操妙计为马超识破，他怒不从命。曹操继而又让马腾入朝，“征为卫尉，腾自见年老，遂入宿卫”。不仅如此，曹操还将马腾家眷全部迁入曹操集团统治的军事政治中心—— 冀州邺城，从而将马腾置于牢固的控制之下。而对于不就曹命的马超，曹操只得拜其为偏将军，统领马腾之部，屯驻西凉。