同年十二月，曹奂正式下诏希望将皇位禅让给司马炎，司马炎假意推辞不接受。但群臣坚持请求，司马炎顺势顺从众臣的意见，接受禅让登基称帝，以封国晋国为国号建立晋朝，并改年号为泰始。
治国理政与统一中国
司马炎即位初期，可谓是雄心勃勃，励精图治。他深知国家历经战乱，百废待兴，于是开始大力推行一系列改革措施。
在政治上，他确立了三省制度，初步形成了尚书省、中书省和门下省的分工合作，提高了行政效率。
“众卿，如今我大晋初立，当以革新政治为要，三省各司其职，望众卿齐心协力，共铸大晋辉煌。”司马炎在朝堂上慷慨陈词。
在法律方面，他亲自参与法律编纂工作，命人在汉朝法律基础上修订新法律，删除了苛刻繁琐的条纹，还对死刑、连坐等刑罚进行调整，废除了肉刑。
经济上，司马炎改革农业、推行限田令以抑制土地兼并，同时鼓励农业生产，在各地受到自然灾害时积极进行救济。
他还多次下诏教化民众，提倡节俭，并以身作则，当众烧掉进献上来的珍奇服饰。
在人才选拔上，司马炎基本秉承以贤良为标准，不以官员家人犯罪或私人恩怨而影响对官员的任用，还下诏对吴国境内有名望的人进行任用。
经过一段时间的治理，晋国逐渐繁荣，国力日益增强。而此时位于江南的吴国皇帝孙皓沉迷酒色、荒淫滥杀，国力大大衰弱。
晋咸宁五年（公元279年），司马炎认为时机成熟，下令大举进攻吴国，派遣二十万士兵分六路进攻。
“此战，乃为统一天下，永息战乱，众将士当奋勇杀敌，建功立业！”司马炎在出征前鼓舞士气。
晋国军队势如破竹，接连取得胜利，最终在晋太康元年（公元280年）三月，龙骧将军王浚率领晋军攻至吴国首都建邺西北的石头城，孙皓向晋军投降，吴国灭亡。
至此，在司马炎的领导下，晋朝暂时结束了自汉末以来的战乱局面，再次统一了中国。
后期的隐患与衰败
然而，统一后的司马炎，逐渐开始懈怠。他不再像即位初期那样兢兢业业，而是开始沉迷于享乐。