司马迁作为中国古代史学的奠基者，不仅在于他具有深刻的历史思想，还在于他具有丰富的史学思想。
司马迁的史学思想之突出的地方，首先，是他的史学发展意识。所谓史学发展意识，它不只是涉及有关史学的某些方面的认识，而且极为看重史学是史学家们不应为之中断的、具有连续性的神圣事业。他在《史记·太史公自序》中郑重地写道：
先人有言：“自周公卒五百岁而有孔子。孔子卒后至于今五百岁，有能绍明世，正《易传》，继《春秋》，本《诗》、《书》、《礼》、《乐》之际？”意在斯乎！意在斯乎！小子何敢让焉。[93]
“小子何敢让焉”，这是把“绍明世”、“继《春秋》”的工作同周公、孔子的事业联系起来，还有什么比这更重要的呢？在司马迁看来，“《春秋》辨是非，故长于治人”；“《春秋》以道义”，“拨乱世反之正，莫近于《春秋》。《春秋》文成数万，其指数千。万物之散聚皆在《春秋》”。可见，所谓“继《春秋》”，确乎是神圣的事业。司马迁自觉的史学发展意识，可谓鲜明而又强烈，是先秦时期史学中不曾有过的。司马迁的史学发展意识，转化为伟大的史学成果《史记》，作为“一家之言”卓然自立。司马迁说的“成一家之言”，不仅仅是指《史记》说的，而且也是指“史家”说的。战国时期有诸子百家而“史记放绝”，司马迁要改变这种状况，他要使历史撰述也成为一“家”。这在史学发展上，是一件具有划时代意义的事情。
其次，是他对史学的社会作用有深刻的认识。他指出：
居今之世，志古之道，所以自镜也，未必尽同。帝王者各殊礼而异务，要以成功为统纪，岂可绲乎？[94]
这段话的大意是：现今的人们，认识古人的行事，目的是为了给自己做一面镜子以为借鉴，而不必去完全模仿古人的做法。不同时期的帝王大凡都有各自的礼法制度及重要事务，归根到底都是以获得成功为总的目标，既不可把它们混同起来，更不可以把古今混同起来。这是对于史学之社会作用的极精辟的说明。历史上人们的做法和经验，不可照样搬用；不同时期的人们都是根据自己所面临的问题，为了获得成功而各有不同的做法。人们之所以要考察和认识历史，是为“自镜”，为了有更多的借鉴，增添成功的因素。司马迁一方面肯定历史有“自镜”的价值，另一方面又反对混同古今而模仿历史。他既肯定了史学对于社会的积极作用，又反对把这种作用做庸俗化的理解。两千多年前，司马迁提出的这一认识，具有重要理论价值和社会意义。
再次，司马迁十分重视对历史撰述宗旨的阐说，显示出一位伟大史家的深刻和诚实。司马迁撰写《史记》的宗旨，可以用几个不同的层次来说明。其最高的层次，是“究天人之际，通古今之变，成一家之言”；其中间的层次，是关于本纪、表、书、世家、列传五个部分各自的总的撰述目标，如本纪是要说明“王迹所兴，原始察终，见盛观衰”，表是要表明“并时异世，年差不明”的复杂的历史事实，书是阐述典章制度的“承敝通变”，世家是表彰“辅拂股肱之臣”，列传是写社会各阶层中那些“扶义俶傥，不令己失时，立功名于天下”的人；其基础的层次，是对《史记》全书130篇中每一篇都交代其撰述思想上的考虑。[95]这是一个十分严密的思想逻辑体系；同时，它也表明，司马迁既能够严肃地面对历史，又能够真挚地面向后人。司马迁这样明确而细致地阐述自己的撰述宗旨，是《史记》得以成为一部伟大著作的原因之一，也是司马迁在千百年之后仍能获得众多读者理解和仰慕的原因之一。在这一点上，《汉书》从形式上模仿了《史记》，而思想境界上则未可企及。自《汉书》以后，这个传统几乎就没有人再来继承了。
最后，司马迁强调对于历史文献的认真辨析，提倡“好学深思，心知其意”的治史态度。关于这一点，他在《史记·五帝本纪》后论中有十分明确的阐述，其文曰：
学者多称五帝，尚矣。然《尚书》独载尧以来；而百家言黄帝，其文不雅驯，荐绅先生难言之。孔子所传《宰予问五帝德》及《帝系姓》，儒者或不传。余尝西至空桐，北过涿鹿，东渐于海，南浮江淮矣，至长老皆各往往称黄帝、尧、舜之处，风教固殊焉，总之不离古文者近是。予观《春秋》、《国语》，其发明《五帝德》、《帝系姓》章矣，顾弟弗深考，其所表见皆不虚。书缺有间矣，其轶乃时时见于他说。非好学深思，心知其意，固难为浅见寡闻道也。余并论次，择其言尤雅者，故著为本纪书首。[96]
对于“百家言黄帝，其文不雅驯”，司马迁是持审慎态度的，这是一方面；另一方面，他从实地考察中发现，《五帝德》、《帝系姓》“其所表见皆不虚”。有了这样的辨析、印证，他才“择其言尤雅者，故著为本纪书首”。由辨析、印证到抉择，是很繁难的过程，他认为只有“好学深思，心知其意”的人，才能够懂得这些。司马迁在《史记》中，有不少地方都反映出他的这一思想，如《三代世表》序写道：
五帝、三代之记，尚矣。自殷以前诸侯不可得而谱，周以来乃颇可著。孔子因史文次《春秋》，纪元年，正时日月，盖其详哉。至于序《尚书》则略，无年月；或颇有，然多阙，不可录。故疑则传疑，盖其慎也。
余读《谍记》，黄帝以来皆有年数。稽其历谱谍终始五德之传，古文咸不同，乖异。夫子之弗论次其年月，岂虚哉！于是以《五帝系谍》、《尚书》集世纪黄帝以来讫共和为《世表》。[97]
在这里，前一段话里肯定孔子“疑则传疑，盖其慎也”的治学态度，后一段话里说他本人不据“年数”而作“世表”的缘由，而这两段话的精神则是相通的。他如《匈奴列传》后论、《大宛列传》后论等，也从不同的方面反映出司马迁的慎于辨析历史文献的思想。《史记》被后人誉为“其文直，其事核，不虚美，不隐恶，故谓之实录”，是同司马迁的这一思想密不可分的。