隋朝开皇年间和仁寿年间的时候，王劭写了一部八十卷的《隋书》，按照类别整理，划分了章节。但是，像正史里常见的纪传体（也就是按时间和人物列传的形式）却没写。
唐朝武德五年，起居舍人令狐德棻建议修撰《五代史》（五代指的是梁、陈、齐、周、隋五个朝代）。当年十二月，皇帝下令让中书令封德彝和舍人颜师古修撰《隋史》，干了好几年，没完成就停了。
贞观三年，皇帝又下令让秘书监魏徵修撰《隋史》，左仆射房乔负责监督。魏徵又建议在中书省设立一个秘书内省，让前中书侍郎颜师古、给事中孔颖达、著作郎许敬宗一起写《隋史》。魏徵总负责，修改了不少地方，力求简洁准确。书里的序言和论述都是魏徵写的。最后写成了五本帝王本纪和五十篇列传。贞观十年正月壬子日，魏徵他们把书呈献给皇帝。
贞观十五年，皇帝又下令让左仆射于志宁、太史令李淳风、著作郎韦安仁、符玺郎李延寿一起修撰《五代史志》，一共十志三十卷。显庆元年五月己卯日，太尉长孙无忌他们把书呈献给皇帝，皇帝下令把书收藏在秘阁。后来又把这本书编入《隋书》里，但实际上是分开存放的，也叫它《五代史志》。
（这里有些说法不一致：魏徵的传记里说，贞观七年他当了侍中，贞观十年《五代史》完成，他被加封为光禄大夫，晋封郑国公。后来他请求退休，被封为特进。现在很多版本都说是特进。但是《经籍志》里只说他是侍中、郑国公魏徵写的。长孙无忌的传记里说，永徽三年才受命监修，这让人怀疑是不是在之前就已经修好了，长孙无忌只是把成书上交。现在纪传体版本署名魏徵，志书版本署名长孙无忌，这是根据大多数版本来的。纪传体版本也有人说是太子少师许敬宗写的。但是《许敬宗传》里说，贞观八年他当了著作郎，参与修撰国史，后来升任中书舍人。贞观十年，他被外放洪州当司马。龙朔三年才当上太子少师。这和书里记载的年月和官职对不上，可能是后人改的。房乔、于志宁一开始都受命参与修撰。李延寿的传记里说，他奉命和著作佐郎敬播一起修撰《五代史志》。李延寿贞观三年和颜师古一起被命令修撰《隋史》，当年因为家里有丧事就辞职了。现在很多版本里都没有房乔等人的名字。《天文志》、《律历志》、《五行志》这三志都是李淳风一个人写的。《五行志》的序言，很多版本说是褚遂良写的，但是他的传记里没记载这事儿，估计只是写了个序言，所以这里就不写他的名字了。）
宋朝天圣二年五月十一日，御药供奉蓝元用奉旨，拿着宫里的一部《隋书》交给崇文院。六月五日，皇帝下令派官员校对（当时命令臣绶、臣烨负责督办，右正言、直史馆张观等人负责校对。张观后来当了度支判官，就换黄鉴代替他），然后刻印出版。
