他被后人称为“历史之父”。他的名著《史记》是中国第一部纪传体的史书,也是一部不朽的文学名著,被鲁迅称为“史家之绝唱,无韵之离骚”。
青少年时期的司马迁是在家乡度过的,10岁开始读古书,学习十分认真刻苦。20岁那年,司马迁从长安出发,到各地游历。后来,回到长安,作了郎中。他曾几次同汉武帝出外巡游,到过很多地方。35岁那年,汉武帝派他出使云南、四川、贵州等地。他了解到那里的一些少数民族的风土人情。
其父司马谈为太史令(主持史书的编写工作,监管国家典籍,另外天文历法也是其职责,类似钦天监),司马谈学问渊博,曾“学官于唐都,受易于杨何,习道论于黄子”。
在父亲司马谈死后,公元前108年(元封三年),司马迁接替其父做了太史令。公元前104年(太初元年),与天文学家唐都等人共订“太初历”。同年开始继承其父对《史记》的编纂。
公元前99年(天汉二年),李陵进攻匈奴,兵败投降,汉武帝大怒。司马迁为李陵辩护,触怒了汉武帝,获罪被捕,被判宫刑。“人固有一死,或重于泰山,或轻于鸿毛,用之所趋异也。”(《报任安书》)为了完成父亲遗愿,司马迁含垢忍辱忍受“宫刑”。
公元前96年(太始元年),获赦出狱,做了中书令,掌握皇帝的文书机要。他发愤著书,全力写作《史记》,大约在他55岁那年,终于完成了全书的撰写和修改工作。司马迁以其“究天人之际,通古今之变,成一家之言”的史识,成就了《史记》——中国历史上第一部纪传体通史。