按照《史记·太史公自序》及《汉书·司马迁传》的记载，司马迁从江浙一带到湖南之后转向山东。山东是孔子的故乡，孔子也是一个一生都很失意的伟大人物。
这时，距汉武帝“罢黜百家，独尊儒术”已有约十年的光景，崇儒的风气已经吹遍全国，这个孔子的诞生地自然也有一番兴旺气象。
司马迁在这里都做了些什么呢？他说他到鲁国“观仲尼庙堂、车服、礼器，诸生以时习礼其家，余低回留之，不能去云”。他亲身接触孔子在文化教育上的种种遗迹，深深体会儒家教化的遗风，并且徘徊不愿离去。
司马迁是十分崇拜孔子的，他接着说：“天下君王至于贤人众矣，当时则荣，没则已焉。孔子布衣，传十余世，学者宗之，自天子王侯，中国言六艺者，折中于夫子，可谓至圣矣！”不过崇拜不表示全部思想的皈依，后世对司马迁究竟是重黄老，还是重孔孟，争论不休。我们前面已经说过，这是个见仁见智的问题，《汉书》的作者班固在《司马迁传》的末尾评论道：“其是非颇谬于圣人，论大道则先黄老而后六经。”可是司马迁的《史记》中“世家”是记诸侯之事的，孔子是平民，他却把孔子列入诸侯之列。老子则被归到记述名人传记的“列传”中，这样的编排显然是尊孔抑老的。那么他到底更倾向于哪家的思想呢？这要研究起来恐怕又够写一本书的了，我们不就这个问题做深入的分析。站在传记的立场上，从司马迁的生存时空和生活体验来看，我们只能说：他具有浪漫的性格，他的家庭教育，尤其是他的父亲使他具有了相当程度的黄老思想，但他所处的时代又使他浸润在孔子的遗风中。这种特殊的情况使得司马迁的思想注定是复杂而不单一的。
山东除了鲁国，还有靠海边的齐国，游毕齐、鲁后，如同孔子困于陈蔡，司马迁也遇到了麻烦，被迫“厄困鄱、薛、彭城”。这件事情没有详细的记载，只在《孟尝君列传》中说：我曾到过薛地（今山东南部滕县附近），那里的风俗和齐、鲁两国有很多不同，都比较粗暴。我问当地人这是什么原因形成的，他们说是因为当年孟尝君喜欢养士，以致招来一些鸡鸣狗盗之徒。这样看来，世人说孟尝君好客，实在是名不虚传啊！
彭城就是现在的徐州，是当年西楚霸王项羽的都城。彭城东边——今江苏北部的宿迁县西，就是项羽的故乡。彭城的西北则是刘邦和萧何、曹参、周勃等汉朝开国功臣的故乡沛县（故城在今江苏北部沛县以东）。彭城的东北方是当年张良锤击秦始皇不中而藏匿的地点下邳（故城在今江苏北部邳县以东），他在这里遇到圯上老人黄石公（圯是当地人的土语，指桥），黄石公在这里传授给他兵法。汉初的重要人物全部在彭城附近风云际会，所以这段旅程虽然遭到困厄，但应该也给了司马迁很多灵感。
首先说项羽与彭城，项羽曾在这里制造了我国战争史上一次以少胜多的奇迹，他只用三万精兵，把刘邦的五十六万大军打得落花流水。楚汉之争虽然项羽失败了，但司马迁对他是相当敬佩的，他把这位失败的英雄放在了帝王的位置，为他写“本纪”。
《项羽本纪》一开始就指出“项氏世世为楚将，封于项，故姓项氏”，这句话讲述了项羽的家世渊源，他的勇猛善战是有家世传统的。然后说他“少时，学书不成，去；学剑，又不成”，项羽自己解释是因为“书足以记名姓而已。剑一人敌，不足学，学万人敌”。于是转而学习兵法。他看到秦始皇出游的队伍就说“彼可取而代也”。后来的巨鹿之战，项羽破釜沉舟，大破秦军。胜利后，他得意地召见原来在旁作壁上观的诸侯军将领，那些将领一个个吓得“无不膝行而前，莫敢仰视”。即使是项羽最后败亡在垓下（今安徽灵璧县东南）之战时，司马迁也把他塑造成一个悲壮的英雄：汉军以数千骑追他仅存的二十八骑，结果“项王大呼驰下，汉军皆披靡”，有个大胆的汉将负责追击项羽，“项羽瞋目而叱之”，那汉将就“人马俱惊，辟易数里”。
最后项羽到了乌江（今安徽和县东北），他把心爱的千里马送给一位亭长（秦汉制度，以户口为准，每一千家设一亭，亭长负责治安工作），那位亭长劝他渡江以图东山再起，项羽不肯，和他的随从战士下马“持短兵接战，又杀数百人”，而后项羽发现汉军中有一位老朋友，索性把自己脑袋送给他去领赏，就这样结束了他传奇的一生。司马迁说项羽“分裂天下，而封王侯，政由羽出，号为霸王，位虽不终，近古以来未尝有也”。
他笔下的刘邦远没有项羽这样的英雄气概，相反充满了无赖气息。他好女色、爱喝酒。早年当亭长时，有一次去参加沛县县令的宴会，县令规定送礼太少的人只能坐下席。刘邦这个小亭长根本没有多少钱，竟谎报礼金，大摇大摆地坐在首席上。他能任用读书人，却动不动就谩骂他们，极尽折辱。
彭城之战，刘邦大败，他的父亲被项羽俘虏，项羽特制了一个特大号的切肉砧板，把刘邦的父亲放在上面，威胁刘邦，如果不投降，就把他父亲煮了。刘邦说：我和你同在楚怀王面前受命，约为兄弟，我爹就是你爹，你如果真要把他煮了，也分我一杯羹好了！由此可见刘邦的流氓气有多重！
刘邦周围的那些智囊呢？萧何、曹参原来是狱吏，周勃是办丧事时的吹鼓手，樊哙是个杀狗的屠夫，周昌是个小吏，灌婴是个卖布的。刘邦做了皇帝之后，萧何、曹参、周勃都做过丞相，其余的人也都封了侯。司马迁在这次旅行中也访问了一些地方遗老，他很有感慨地说：异域所闻！当年他们还在屠狗卖布的时候，怎么会想到日后竟然能够垂名汉世？
这样前后一对比，司马迁对项羽同情得有些太过了吧？刘邦和他的开国功臣们好歹算是同属于司马迁的政治集团，项羽则是属于对立面的。可是在司马迁的笔下，就是这位站在政治对立面的人物得到了赞扬。那么关于高祖和汉初开国功臣们的记载有没有不属实的地方呢？司马迁死后，他的孙子将《史记》公开，并没有哪一个功臣的后代出来责难所记不实。司马迁尽管同情项羽，但并没有失去史家的理性，从他的记载中我们仍能够做出刘邦可得天下的判断。
这样的判断是基于刘邦的老谋深算，他早年虽然有流氓习气，但处理事情却颇识大体，我们只要对比一下韩信在项羽和刘邦处的不同遭遇就可以看出两人之间的区别。韩信曾在项羽麾下，因不被重用而改投刘邦，他站在对双方都有所了解的立场上分析了刘项两人的优劣。关于项羽的缺点，韩信说：项羽的勇悍无人可比，但他不能任用贤能，再勇悍也不过是他个人的匹夫之勇而已。他平常对人很好，讲话和颜悦色，有人生病了，他会为之涕泣，而且饮食照料，无微不至。可是当别人有功劳应该封赏的时候，他却舍不得分封，所以他的仁慈只不过是妇人之仁。还有，项羽的大军军纪不甚严明，所过之处，烧杀抢掠，引起了天下百姓的怨恨。
相比之下，刘邦废除秦朝的苛刻律法，与秦民约法三章，这是仁而爱人的表现。他能说出“运筹于帷帐之中，决胜于千里之外，吾不如子房；镇国家、抚百姓、给馈饷，不绝粮道，吾不如萧何；连百万之军，战必胜，攻必取，吾不如韩信”的话，则表现出他的豁然大度。
如此看来司马迁并没有故意贬低刘邦的意思。他从遗老口中采撷一些生活琐事加以记录，除了写实以外，还为后世分析汉朝统治阶层及其性格提供了很好的依据。
游过了高祖故里一带，司马迁转向西行，来到河南开封。开封是战国时魏国的都城大梁，当地人向他述说了当年魏国灭亡时的景象，后来司马迁在《魏世家》里写道：我曾到大梁的废墟探访，当地人告诉我说，秦国攻打大梁时引河水淹灌大梁，三月而城坏，魏王只好请降，于是魏国就此灭亡。
魏国的信陵君是战国四大公子之一，门下食客三千，诸侯因为他的贤名而不敢侵犯魏国，他曾率五国之兵大破秦军而威震天下，后来由于魏王听信谗言渐渐疏远信陵君，信陵君意志消沉，自暴自弃，每天与食客饮酒解闷，耽于女色，没几年就病死了。他也是一位悲剧性的英雄。司马迁很崇拜他，为他写了《魏公子列传》，文中有一段很戏剧化的场面，即信陵君听说魏国有个70岁的隐士侯嬴，为了招揽他，信陵君在众宾客面前亲自执辔迎侯嬴于夷门。司马迁问大梁的人什么叫“夷门”，有人告诉他，夷门就是东门。
路过大梁之后，司马迁继续往西走，到了今洛阳东南方的登封县，这里有一座山叫箕山。他后来写道：“余登箕山，其上盖有许由冢云。”许由是古代的一位隐士，据说尧打算把天下让给他，他一听就奔到河边，狠狠地把耳朵洗了又洗，表示自己不听尧的话，不肯接受帝位。他死了以后就葬于箕山，山下有一处叫洗耳池的古迹。
箕山之游算是司马迁这次壮游的尾声，这里距离关中不远，他就直接回长安去了。
我们不敢说司马迁的这次旅行就是为了写《史记》，他那时应该对前途有各种不同的幻想，未必就已经认定自己要接父亲的衣钵。不过从小的耳濡目染肯定使他具备了成为史家的特质和史家应该有的敏锐触觉。因此，不论这次旅行的目的如何，都在客观上为司马迁日后写《史记》储备了大量素材。
这是一次重要而富于情感与趣味的旅行。