和他的父亲一样，亚历山大打着替天行道的旗号，说征服波斯是为了给古希腊复仇。古希腊世界再次被马其顿平定统一，亚历山大壮大了自己的力量。拥有希腊军队之后，他征服波斯的计划也即将开始。尽管此时的波斯帝国依然与希腊争夺着东地中海的霸权，但这个国度已经暮气沉沉，日益衰落了。

临行时，为了激励自己背水一战，亚历山大把自己大多数的土地和财产都送给了好友。他不放心希腊的未来局势，又派重臣安提帕特和部分军队留守国内，时刻观察希腊各邦的动向。

公元前335年，亚历山大率马其顿几位重要将领和3.5万大军，从都城佩拉出发，穿越色雷斯，浩浩****跨越赫勒斯滂海峡。船靠岸后，亚历山大第一个登上了亚洲大陆。那里恰好是特洛伊遗址，亚历山大将长矛立在地上，向战神雅典娜祭拜，又向祖先阿喀琉斯的陵墓献上花环。他立誓要与阿喀琉斯取得一样的功绩。

听到亚历山大登陆的消息，波斯驻小亚细亚的包括大流士驸马在内的三位总督召集了两万骑兵，在格拉尼卡斯河口迎战马其顿，同行的还有梅农统率的希腊雇佣军。格拉尼卡斯战役是波斯和马其顿军队之间第一次正面、全面对抗。

具有远见卓识的梅农提出拉长战线以消耗马其顿的兵力，但是波斯总督没有理睬他的建议，反而认为敌寡我众的情况下应该迅速打败敌人。亚历山大身先士卒杀死了两位总督，自己的头盔也被敌人打落在地。有一个波斯人从背后刺向亚历山大，危急时刻，克拉杜斯砍断那个波斯人的手臂，救了亚历山大一命。士气低落的波斯军惨败于格拉尼卡斯，两千多名希腊雇佣军都被虏为奴隶，这是亚历山大对他们背叛行为的惩罚。

亚历山大只用这一场战役就征服了小亚细亚，其他城邦一方面惧怕马其顿的威力，一方面也不满波斯的统治，所以纷纷不战而降。只有米利都和哈利卡纳苏斯两个城邦撑到最后一刻，誓死抵抗。梅农率领雇佣军守在哈利卡纳苏斯，依他的谋略，原本计划率舰队攻击马其顿，并再次动员希腊联盟反对马其顿。但不幸的是，他不久便于战斗中阵亡了。最后，这两座城市也被降服了，小亚细亚都归于马其顿的版图之下。

这次战役后，亚历山大发现波斯有一个绝对优势，就是拥有一支强大的舰队。这说明亚历山大不但必须避免与波斯的海上交锋，而且还面临着随时被这支舰队切断供给线的危险。很多人都觉得除非达到雅典海军最辉煌时的实力，否则马其顿是打不过波斯海军的，可亚历山大充分发挥了自己的陆上优势，来了一次釜底抽薪的打击——沿海岸线对地中海东岸的波斯港口进行远征。他从土耳其出发，一路南下，在攻击叙利亚、巴勒斯坦之后，直抵埃及。波斯港口是其舰队的补给源，如今都已被亚历山大所占领，舰队找不到任何栖息地，对亚历山大的威胁也就不攻自破了。

尽管马其顿海军在漫长的南征北战中起到的作用微乎其微，但亚历山大用智慧的谋略消除了波斯舰队的威胁。这也为后世的军事战略提供了借鉴：海港相当于舰队的根基，与其直面强大的海军势力，不如直捣其巢穴。这也成为后人打击海盗最直接最有效的手段。

波斯皇帝大流士三世识破了亚历山大的计谋，亲自率军追击亚历山大，双方在叙利亚的伊苏斯相遇了。《亚历山大远征记》中说这次战役波斯派出六十万大军，这也许是虚指，但波斯人数在马其顿的数倍以上是毫无疑问的。不过，亚历山大的战争从来不是靠数量取胜的，他以骑兵攻击、步兵防御的战略击溃了波斯大军。大流士落荒而逃，完全顾不上财产甚至家人。他的钱财被没收，他的母亲、妻子和儿女则受到了亚历山大人道的保护。

逃跑的皇帝大流士退到两河流域，在那里他给亚历山大写信，希望能通过谈判赎回家人。亚历山大对他的求和嗤之以鼻。不久，大流士又表示愿意把女儿嫁给亚历山大，并割让土地给马其顿。亚历山大当然不会满足于那点儿土地，他要的是全亚洲，甚至是全世界。

此后的两年中，亚历山大完成了对埃及的征服，进而北上攻击波斯帝国的心脏。公元前331年的秋天，马其顿与波斯在亚述古国都城附近的高加米拉展开决定性会战。亚历山大率领四万步兵和七千骑兵，大流士几乎搬出了波斯帝国所有部族的几十万兵力。然而大流士的兵力再多，也只是反衬出亚历山大部队的骁勇强大，波斯军这群乌合之众的溃败似乎毫无悬念。大流士胆战心惊，再次逃跑，无数波斯士兵被马其顿大军追击歼灭。

亚历山大乘胜向东推进，于次年洗劫了古都巴比伦、波斯都城苏萨等地，夺得无数财宝。他下令烧毁波斯波利斯王宫，将整座城毁灭殆尽，波斯帝国至此宣告灭亡。

亚历山大并没有在乱军之中亲自杀死大流士三世，倒是波斯总督贝索斯认为这个皇帝太懦弱，暗杀了企图再次奔逃的大流士三世，自立为王。贝索斯后来被亚历山大的手下抓获，亚历山大又突然以“为伟大的国王复仇”的名义用极刑处死了贝索斯。他还将大流士三世的遗体送回波斯波利斯安葬，以示敬意。