19岁以前的司马迁尝到了国家对外作战初获胜利的兴奋和喜悦，也有机会向当世的鸿儒学习讨教。在这种外部环境的熏陶和培养下，成年的司马迁已经拥有了大国臣民的胸怀。这时的他纯粹是个盛世骄子，个性浪漫，这使得他对祖国的大好山河深为向往。
20岁时，司马迁展开了一次走遍半个中国的游历旅程。这次壮游的动机我们不清楚，他是单独一个人，还是成群结队，也没有记录可查。但有一点却是可以肯定的，那就是这次游历对他日后完成《史记》有相当大的帮助，这个问题后面我们会说到。还有史学家称，司马迁的这次壮游是奉了他父亲的指示，到东、南各地搜集史料。
关于这次游历的经过，《史记·太史公自序》中只用了51个字来描写，《汉书·司马迁传》中则更少，只有49个字的简单叙述。不过，《史记》的其他卷帙里，常会提到这次游历的所见所闻，我们重新加以归纳整理，大概可以连成一系列的画面，同时也可以看到一些司马迁的思想痕迹。
二十而南游江、淮，上会稽，探禹穴，窥九嶷，浮于沅、湘；北涉汶、泗，讲业齐、鲁之都，观孔子之遗风，乡射邹、峄；厄困鄱、薛、彭城，过梁、楚以归。
那些51个字或49个字的叙述，只记述了司马迁游历的路线，大体是从长安到东南江淮、浙江一带，而后到湖南，再到山东，最后经河南回到陕西。
先说说司马迁游历的第一站——江淮，是今江苏省和安徽省北部一带。司马迁来到淮阴侯韩信的故乡，其故城在今江苏淮阴县南。司马迁在那里访问了当地人，向他们询问韩信早年贫困时的情况。《史记·淮阴侯列传》的素材大约在这次旅行中采集到不少。司马迁到淮阴时，淮阴人曾告诉他，早年韩信还是个贫民时，就很与众不同，他母亲死的时候，他穷得没法安葬母亲，借到一些钱之后，韩信把母亲的坟墓筑得高高的，且占地面积很大，大到墓旁足够建造供很多人家住的房子。司马迁听了这件事，特地去参观韩信母亲的墓地，果然如众人所说，十分雄伟庞大，于是他写道：“余视其母冢，良然！”
司马迁一向同情悲情式的英雄，在这篇列传里，以萧何追赶韩信并向刘邦大力推荐他为开头，突出了韩信个人的才华和在当时的地位，然后描写了几次战役，很生动地显现出韩信的军事天才，后来用“狡兔死，走狗烹”一类的谚语指出了韩信最后悲惨的下场。末了，“太史公曰”中又很同情而无可奈何地说，假如韩信学学老庄之道，不要说自己功劳大，不要夸自己才能高，那么他对汉朝的功劳几乎可以比得上周公、召公、太公那些人了，他一定会受到后世的供奉。
这篇列传的结尾司马迁写了这样一句话：“而天下已集，乃谋叛逆，夷灭宗族，不亦宜乎？”这句话究竟是什么意思，曾引起很多争论。其中有一种解释，说这句话的意思是：“既然天下已经要一统了，韩信为什么还要在这种不是造反的时候造反呢？他造反失败后被诛灭三族，这又岂是有心肝的人做得出来的？”一方面是说韩信不该造反，一方面暗指高祖和吕后心肠狠毒，对这样一位开国功臣竟然施以如此残酷的刑罚。
还有一种说法好像也有些道理，说“天下已集，乃谋叛逆”中的“乃”字是“方才”的意思。整句话的意思是说：天下都已经要一统了，韩信才想起来造反（很明显不是时机嘛），因此被诛灭三族，难道不是应该的吗？
后一种说法可以在这篇列传中找到一处呼应，即司马迁用了大约十分之一的篇幅写齐人蒯通为韩信看相的事，蒯通说：“相君之面，不过封侯，又危不安。相君之背，贵乃不可言。”这句话的意思是说，您跟着刘邦不过是封侯，而且富贵可能不会长久；您要是背叛刘邦，那就富贵不可言了。这可能是项羽一方为了拉拢韩信而用的计策，因为当时韩信实力强大，战功赫赫，完全有能力与刘邦、项羽三分天下。可是韩信犹豫不忍，又自恃功高，认为刘邦一定不会对他怎么样。蒯通眼看劝他不动，只好装疯而去。最后，韩信被吕后下令斩首时还说：“吾悔不用蒯通之计。”
由这段叙述可见“乃谋叛逆”解释为“到这个时候才想起来造反”似乎有些前后呼应的意思。这么说来，司马迁应该是比较同情韩信的，以他的能力简直可以取刘邦而代之，最后却落得这样的结局。当日在刘邦面前拼命推荐韩信的是萧何，后来参与计划诱杀韩信的也是萧何，司马迁还不忘写上一笔：“吕后欲召，恐其党不就，乃与萧相国谋……”
游历的第一站在感慨和叹息中渐渐远去。司马迁继续往南走，到了现在浙江绍兴东南方的会稽山。在到会稽山之前，他还参观了战国时四大公子之一——楚国春申君的故城宫室。
春申君所在的年代，楚国的疆域已经扩展到了沿海江浙一带。传说黄浦江就是春申君开凿的，现在上海附近就是他的封邑，上海北门外还有春申君祠，表达了人们对他的纪念。照司马迁的游历路线来看，他参观的春申君故城宫室大概就在现在的上海一带。他赞叹地记道：“盛矣哉！”
在会稽山，他曾去探“禹穴”，这是一个山洞，传说大禹治水时曾在这里休息过。会稽山正是传说中大禹会天下诸侯之地，山上还有禹王庙，山下则有大禹的陵墓。除了大禹在此会诸侯以外，他的后代越王勾践也曾在这里生聚教训，卧薪尝胆。司马迁的《史记·越王勾践世家》可能也是以在这里听到的那些流传中的故事做材料的。
会稽山北面的太湖一带就是当年吴王夫差的故地，司马迁可能也前去探访过。他回到长安后，把这些材料编织成了春秋末年吴越相争的热闹场面。