《史记·太史公自序》中说此次游历结束后，司马迁就“迁仕为郎中”。这表明他终于踏入了仕途，不过这究竟是哪一年的事情，司马迁没有写明。
司马迁20岁开始游历，以当时的交通工具，花上一两年时间应该是差不多的，所以他回长安时大概已经二十一二岁了。而在他22岁那年，即元朔五年（前124年），汉朝推出了一个有建设性的措施——为博士置弟子员，换句话说，就是为博士招收学生。我们前面说过，司马迁11岁时，汉武帝采取董仲舒的建议，在各家各派的博士中，只保留儒家的正经博士，其他的予以取缔。这次提出招收学生建议的是公孙弘，他表面上是个儒家，实际上思想很复杂，似乎更倾向于法家。
汉武帝的“独尊儒术”就是一个幌子，他在实际政务方面根本不重用儒生，而是以倾向于法家的公孙弘为主，公孙弘出身于狱吏，“习文法吏事”。他这次提出为五经博士招收学生的建议，显然是把先前的“独尊儒术”政策变得更为具体，让学习儒学的人和政府的人事管道有一个沟通。这个措施还规定学生毕业成绩特优者可以为“郎中”，通五经中的一经以上者就可以委任官职。
司马迁被选为郎中应该就是借助了这个通道，因为本来郎官（郎中是郎官的一种）的来源不外以下几种：
一、汉朝官吏的等级是以所领的俸米来区分的。俸米的单位为“石”，最高的是三公，属万石级，其下有二千石、千石、若干百石等。所谓若干石，并不是说他就领若干石的米，实际发放时是要打些折扣的，这时的单位称“斛”，斛和石同样是十斗，万石的大官每月实际领米三百五十斛，一年四千二百斛。按照规定，凡是二千石以上的官吏就可以把儿子或兄弟选送为郎官。例如苏武。
二、家财万贯以上的。例如司马相如。
三、具有特殊技能的。例如驾车驾得特别好的，这种有些近似弄臣一类。
从这原有的三种途径来看，司马迁哪种都不符合。他的父亲司马谈是太史令，俸禄不过六百石，离二千石的标准还有很长一段距离。而以这样低的收入，第二种情形无疑也是不可能的。至于第三种情形，就更不可能了。综上所述，司马迁应该是通过博士弟子员这个身份被选为郎中的。
郎官和郎中到底是什么呢？为了对司马迁的这个职务有较为清楚的认识，我们先从汉朝的政治制度说起。
秦、汉是我国从分裂割据的春秋战国走向统一中央集权国家的时代，也是奴隶制度转为封建制度的时代。汉初的制度大多还保有奴隶制时代的残余，在奴隶时代，封地是奴隶主所有，奴隶是奴隶主的私有财产，封地中的政治就是奴隶主个人的家务，他底下的官吏就是他的家臣。这种制度和封建领主制并没有多大区别。汉初，天子王室与统治天下的政府间，界限并不清楚。那个时候，在基本意义上属于皇帝家务官的宦官集团还没有形成。全国行政与宫廷服务两套制度是并立或交叉的。
郎，是随从在皇帝左右的侍卫集团，有点像战国时国君或贵族间流行的“养士”或“食客”。
在组织上来说，皇帝以下的官吏最重要的是三公、九卿。三公在汉初是丞相、御史大史、太尉，九卿是列卿或众卿之意，通常由太常、郎中令、卫尉、太仆、廷尉、大鸿胪、宗正、大司农、少府等。其中廷尉管刑狱司法，大鸿胪管外交事务，大司农管国家财务，三者都属于全国行政性质。其余的，太常管宗庙礼乐及医药等，卫尉和郎中令管宫殿侍卫，太仆管皇帝出门的车马，宗正管皇族事务，少府管山海池泽的税收，这六者皆属宫廷服务性质。
郎就属于后六者中管侍卫的郎中令的下属。郎中令在汉武帝太初元年（前104年）才被改为“光禄勋”，同是掌管宫廷侍卫，但与卫尉的不同之处在于：卫尉是驻守宫殿的卫队队长，以所驻守的宫名为官名，例如甘泉宫卫尉；郎中令则是管理宫殿门户的首领，其下属有大夫、郎、谒者等。其中真正管门户的就是郎。除了管门户，皇帝出门时，他们还要列成车马队侍从。此外，他们因为平常居住在宫中，皇帝出门时也常随侍左右，所以是皇帝身边现成的顾问，皇帝有什么事情，也常差遣他们去执行。他们在行政上没有固定职务，没有办公室，也没有一定的编制，多时人数可达上千，完全由皇帝自由决定他们的任务和人数。郎又分为议郎、中郎、侍郎和郎中四等，其中除了议郎原则上掌论议以外，其余的都要轮值守卫宫门，皇帝出门时则为侍从。
司马迁担任的郎中，就是这种性质的官。
还有一点很值得我们注意，郎在当时是很受重视的升迁之道。由于那时科举制还没有建立，汉朝中下层官员主要来源只有两个，一个是各政府机关的办事人员，另一个就是郎。前者往往被有钱人独占，后者需要祖宗庇荫，或是家财万贯才有办法担任。
司马迁运气不坏，正赶上博士弟子员制度的推行，使得他有机会进入仕途，踏上这个令人钦羡的跳板。这个跳板是由皇帝亲自控制的，所以前途非常被看好。我们前面一再提到司马迁身处盛世，对前途有不少憧憬，这就是一个证明，也是他向仕宦之途踏出的第一步。
究竟他是在哪一年成为郎中的呢？目前还没办法确切考证出来，最早也是在他22岁或者23岁的时候。从此，司马迁和父亲司马谈一同在宫内任职，只是单位不同。在宫中任职后，他有更多的机会可以直接接触一些有名或有才学的人士，例如我们前面提到的孔安国、董仲舒等，也有人认为司马迁是在这段时间才开始和他们接触的。