崆峒之行后一年，即公元前111年，35岁的司马迁以郎中的身份“奉使西征巴蜀以南，南略邛（西昌）、筰（汉源）、昆明（今云南保山、腾冲、顺宁等地）”。这件事关系到汉武帝经营西南的方针。西南一带按照现在的行政区划，包括云南、贵州、四川等省。汉武帝注意到西南边境的问题，是因为之前东南边境的经营经验。公元前135年，汉平闽越（福建）后，派人劝说南越（两广及越南）归顺，使者到了南越后才知道南越西北还有夜郎国（今贵州北部），这时南越还没有并入大汉的版图，有人建议与夜郎国联合起来以制南越。汉武帝就派人率兵南下，恩威并施，使夜郎国和它旁边的小邑归属汉朝。

当时蜀人司马相如认为邛及筰可以仿照南越、夜郎的管理方式，于是汉武帝命司马相如前往劝说那些小邦归顺，邛、筰由于贪图汉朝的赏赐也就答应了，汉在这里设了十几个县，隶属于蜀郡。后来，这些西南边境小国竟在汉朝全力抗击匈奴时，趁机反叛作乱。汉武帝无暇顾及，也就放弃了这里的经营。

到公元前126年，司马迁20岁时，历尽千辛万苦终于回到长安的张骞带回了一个消息，这个消息又引起了汉武帝对西南边境的兴趣。张骞说他在大夏时（今中亚阿姆河一带），曾看到邛产的竹杖和蜀郡产的布，大夏人说那是从印度买来的。他们听说这些东西都是中国原产的，表示非常仰慕中国的文化和技术，只是被北方匈奴阻挡，无法互通有无，如果能够打通蜀郡，经由印度，就可以互相通商了。

四年后，汉武帝派遣使者，计划从西南通印度以连大夏。结果西南边境的少数民族从中作梗。滇国（在云南滇池一带）和夜郎国的君主问汉使者：“汉朝大还是我大？”一个个都是不服气的样子。汉使者只好如实回报汉武帝，并强调滇国地域还算辽阔，值得经营。《史记》中描写汉武帝听了后，就又开始注意西南边境了。

十年后，公元前112年，即司马迁随圣驾到崆峒那年，南越反。这一年距离卫青、霍去病最后一次大规模征伐匈奴已有七年，那次征伐迫使匈奴远遁，此后北方二十多年来没有大规模战事，汉军虽然因失去大量马匹而实力受损，但对付南越还是绰绰有余。

平南越时，汉朝除了派水师从今湖南、江西南下以外，也以宗主国的权威，命西南边境各国助阵。其中有个小邦，大概在今贵州贵阳东北一带，说怕邻国会在它发兵时趁火打劫，拒绝出兵助阵，还斩杀了来使。

第二年，南越平定，汉设九郡管辖。汉武帝想起来西南边境小国昔日对他的冒犯，便派曾随卫青出击匈奴的郭昌等人攻击西南，杀了好几个小邦的君主。西南诸邦这才如梦初醒，纷纷请求归顺。

司马迁所说的“奉使西征巴蜀以南，南略邛、筰、昆明”，指的就是这个时候。他去做什么呢？《史记》中并没有详细记载。但我们可以推测一下，他的任务应该和当年的司马相如差不多，即汉军杀了几个小邦君主以示威严之后，由他——可能还有其他人——去劝说其他小邦君主乖乖归顺汉朝。结果，邛、筰两地很快被纳入汉朝的管辖范围。滇国起初仍不服，两年后被汉武帝用武力征服。

从汉武帝派司马迁代表朝廷去招抚夷邦一事看来，司马迁在当时还是相当被器重的。而崆峒之行和这次奉使西南，正好把20岁那年的游历没去过的地方补了起来，司马迁等于游遍了当时的整个中国。

这时，效法黄帝“且战且学仙”的汉武帝一面注视战局的进展，一面进行他的求仙“大业”。先前，他决心举行封禅大典，然后命儒生草拟仪式步骤，结果五十多个儒生各说各话，弄了几年也没有弄出个结论。他们试图从《尚书》《周官》《王制》等古籍中寻求依据，可是那时候可能根本就没有封禅这回事，祭天地的典仪倒是有不少，于是他们有意拿来参考，可是又没胆量按照现实的发展予以变通组合，或是加上无依据的创意，所以迟迟没有结论。

汉武帝为此非常烦恼，公孙卿等方士又不知道从哪里得来的说法，说黄帝以及上古君王行封禅后都能与神相通，这更令汉武帝着急了。他曾问一个儒生的意见，这个儒生被班固形容为“以称意任职”，是个懂得做官的人。他对汉武帝说，封禅这种大典是非比寻常的大礼，古经籍里都不会有记载，这种事情要由“圣主”做最适当的裁决，自行制定。如果任由众臣各执一词，争论不休，最后一定无法成事。所以请汉武帝“建中和之极，兼总条贯，金声而玉振之，以顺成天庆，垂万世之基”。这就是说有汉武帝这样的圣德，以他与天相应的智慧，要怎么办就怎么办，完全可以为后世开创一个范本出来。

汉武帝听了，自是欢喜非常，于是决定“自制仪”。既然要自行制定，当然交给方士们来做是最便捷的，他们反正也不受什么约束。但也不能全听他们的，不然难免要让天下人耻笑，所以还是要“采儒术以文之”，仍然得拿儒学来装饰门面。

汉武帝本来要“外饰以仁义”，敷衍一下天下人，同时也给儒者留点面子。可是那些儒生仍然一板一眼，绝不违背他们所信仰的古礼。当汉武帝把一些可能是方士所制的礼器拿出来叫他们发表意见时，有儒生说“不与古同”，这下使得汉武帝对儒生的迂腐实在忍无可忍了，干脆下令“尽罢诸儒不用”。从此，封禅大典摆明了由方士们唱主角了。他们一直追求的名利终于到手了。

汉武帝下定决心举行封禅大典之后，相关的筹备工作就在加紧进行。也不知道是谁提的建议，说古时候在行封禅以前要“振兵释旅”，也就是要把部队整而罢之，杀伐的事情要先停止。

这时南方战事大体已经结束，汉武帝最在意的还是北方的匈奴，于是，他勒兵十八万，出长城，到河套北岸一带，旌旗连续千余里，神气活现地对匈奴示威一番。还派使者到匈奴单于帐内威胁单于：“南越王的脑袋已经悬在大汉的宫门上了，现在，单于你要是还能战，大汉的天子正在边境等着，你来好啦！如果不能战，干脆投降，向大汉称臣，何苦在寒苦无水草的沙漠中逃来窜去！”单于听了大怒，斩了主张接见汉朝使者的人，并扣留了汉使，但也将臣民、军队迁移到北海（贝加尔湖）之北，不敢再侵犯边境一带。

汉武帝得意地回兵南下到桥山（陕西中部）祭黄帝冢，然后罢兵。他曾疑惑地问：“黄帝不是不死的吗？怎么会有坟墓？”

公孙卿很机智地回答；“黄帝已成仙登天，这个坟墓是众臣思慕他而建，葬的是他的衣冠！”

汉武帝对这个答案非常满意，还感慨地说：“这么说来，将来我要是成仙升天了，众臣也会把我的衣冠葬在东陵（汉武帝已经为自己修好的陵墓，叫茂陵，因在长安之东所以也叫东陵）了？”

这是冬天的事情。到了春天，大队人马正式展开封禅有关的活动，他们的第一站是公孙卿持节候神的太室山，之后就是行封禅大典的泰山。不过按照方士的安排，就如同当年秦始皇封禅一般，在正式举行仪式之前要先东游海上。