经过李陵事件，司马迁因为触犯了皇上，下了监狱，交给朝廷审问。审问下来，把司马迁定了罪，应该受腐刑，司马迁拿不出钱赎罪，只好受了刑罚，关在监狱里。
司马迁认为受腐刑是一件很丢脸的事，他几乎想自杀。但他想到自己有一件极重要的工作没有完成，不应该死。因为当时他正在用全部精力写一部书，这就是我国古代最伟大的历史著作——《史记》。原来，司马迁的祖上好几辈都担任史官，父亲司马谈也是汉朝的太史令。司马迁十岁的时候，就跟随父亲到了长安，从小就读了不少书籍。
为了搜集史料，开阔眼界，司马迁从二十岁开始，就游历祖国各地。他到过浙江会稽，看了传说中大禹召集部落首领开会的地方；到过曲阜，考察孔子讲学的遗址；他到过汉高祖的故乡，听取沛县父老讲述刘邦起兵的情况……这种游览和考察，使司马迁获得了大量的知识，又从民间语言中汲取了丰富的养料，这些给司马迁的写作打下了重要的基础。
以后，司马迁当了汉武帝的侍从官，又跟随皇帝巡行各地，还奉命到巴、蜀、昆明一带视察。司马谈死后，司马迁继承父亲的职务，做了太史令，他阅读和搜集的史料就更多了。在他正准备着手写作的时候，就为了替李陵辩护得罪武帝，下了监狱，受了刑。他痛苦地想：这是我自己的过错呀。现在受了刑，身子毁了，没有用了。
但是他又想：从前孔子周游列国的路上被困在陈蔡，后来编了一部《春秋》；屈原遭到放逐，写了《离骚》；左丘明眼睛瞎了，写了《国语》。还有《诗经》三百篇，大都是古人在心情忧愤的情况下写的。这些著名的著作，都是作者心里有郁闷，或者理想行不通的时候，才写出来的。我为什么不利用这个时候把这部史书写好呢？于是，他把从传说中的黄帝时代开始，一直到汉武帝太始二年为止的这段时期的历史，编写成一百三十篇、五十二万字的巨大著作《史记》。司马迁在他的《史记》中，对古代一些著名人物的事迹都作了详细的叙述。他对于农民起义的领袖陈胜、吴广，给予高度的评价；对被压迫的下层人物往往表示同情的态度。他还把古代文献中过于艰深的文字改写成当时比较浅近的文字。人物描写和情节描述，形象鲜明，语言生动活泼。因此，《史记》是一部伟大的历史著作。
司马迁出了监狱以后，担任中书令。后来，郁郁不乐地死去。但他和他的著作《史记》在我国的史学史、文学史上都享有很高的地位。