隋炀帝末年，德棻授官为药城（今安徽亳县东南）长。当时天下纷乱，炀帝已是穷途末路，德棻很明智地没有远程跋涉去就职。待李渊起兵反隋后，李渊从父弟李神通在今陕西鄠县起兵响应，德棻就加入了这支反隋军队，在总管府任记室。李渊入据长安后，先为丞相，奉代王杨侑为傀儡，德棻即任大丞相府记室。李渊称帝后，德棻随即转为起居舍人，“甚见亲密”，又迁秘书丞。在贞观年间德棻历任礼部侍郎，兼修国史，太子右庶子，雅州刺史，秘书少监；在唐高宗时，任过礼部侍郎、兼弘文馆学士，监修国史，太常卿，国子祭酒，兼授崇贤馆学士。
德棻的爵位是步步上升的。贞观六年（632）赐爵彭阳男，又五年，进爵为子，高宗时，进爵为公。在近半个世纪的仕宦生涯中，他同唐初三位皇帝都有较亲密关系。皇帝信重德棻，不断委以修史重任，而德棻也殚精极虑，竭诚尽忠。由于令狐一门为关中望族，而李唐皇家也发迹于关中，故把关中贵族集团作为政权的重要支柱。
魏徵令狐德棻在唐初倡举了两件事很有历史意义。其中一件是奏请购募天下书。唐初，德棻任秘书丞，职责是掌管经籍图书之事。当时经隋末大乱，经籍图书大量散失，德棻向唐高祖建议，以朝廷之力广泛收求天下书，对献书者“重加钱帛”，予以奖励，对所收之书，“增置楷书，令缮写”。在唐高祖支持下，这个计划顺利执行，“数年间，群书略备”。
武德五年（622），升任秘书丞，与侍中陈叔达等人受诏撰《艺文类聚》。当时，战乱之后，书籍散佚，他向高祖李渊上奏，请以重价购求天下遗书，置书吏修缮补录，数年间，群书大备。贞观中，又奏议修纂梁、陈、周、齐、隋五史，他主修《周书》。高宗朝，官弘文馆、崇贤馆学士，迁国子祭酒。国家凡有修撰，无不参与，晚年著述尤勤。编有《五代史志》、《大唐礼仪》、《太宗实录》、《高宗实录》，著有《凌烟阁功臣故事》、《皇帝封禅仪》等。
成绩可观
这项工作的成绩是很可观的，至武德九年（626）九月唐太宗即位，已是“于宏文殿聚四部群书二十余万卷”。这其中除了武德初得隋旧书八万余卷外，另十二万余卷则是购求而来，并且已分类别，足见成绩之大。这项工作随后也坚持了下去，贞观年间，魏徵、虞世南、颜师古相继为秘书监，继续购求遗书，选书手、雠校百余人，缮写群书，藏于内库，由宫人掌管。
贞观二年
特别是贞观二年（628）魏徵带领学者，对购求之书按“四部”分类，进行校订，“数年之间，秘府粲然毕备”。德棻在新朝建立之初，百废待举之时，及时向皇帝提醒文化建设的重要性，建议并主持购募遗书，从而及时地抢救了大批散失的古书图籍，表明了他的远见卓识。这一大规模求书壮举，为贞观初的古籍整理工作和大规模修史创造了有利条件，也为唐代文化高潮的到来奠定一个良好基础。
参与撰修
二十四史
德棻所做的另一件大事是首倡修史。唐初史学成就是极辉煌的，而“创修撰之源，自德棻始也”。武德四年（621）十一月，德棻对高祖李渊说了一番言辞恳切的话：“窃见近代已来，多无正史，梁、陈及齐，犹有文籍。
史学讲解
三国两晋南北朝以来史学出现了一个蓬勃发展的高潮，朝代兴替频繁，反映各朝历史的撰述也大量涌现，一朝史可达几种至十几种。但由于多以私人之力完成，内容又往往不能包举一代，所以资料丰富、首尾完整的著作并不多见。而且由于战乱频繁，史书随出随亡。德棻所举的梁、陈、齐、周、隋五代，均无完整史书。其中梁、陈、齐，尚有一些文籍保存，而周、隋文籍散失尤为严重。所以，如果不利用时代相连、“耳目犹接”的有利条件抓紧修史，那么以后再修就困难了。可见德棻具有史家的高度责任感。
政治讲解
隋代北周，唐代隋，一脉相承，而且恰好这三代帝王祖籍同出关中武川，并且李渊的祖父李虎是北周政权的核心“八柱国”之一，死后追封为唐公，李渊的父亲李昺也在北周袭封唐公，为柱国大将军。所以德棻指出“国家二祖功业，并在周时”。
正统观念
如果能通过修前代史而向世人强调北周一隋一唐的一脉相承的正统观念，进而宣传李唐祖先功业，那么对于巩固刚刚建立的唐政权，是再好不过的明智之举了。德棻的及时建议和扼要分析引起了唐高祖的慎重考虑，经过一番筹划，于武德五年（622）十二月正式下诏修前代魏、周、隋、梁、齐、陈六史，对各史编修人员作了分工。负责周史的是侍中陈叔达、秘书丞令狐德棻、太史令庾俭。但这次修史“历数年，竟不就而罢”。
未成的原因虽然史无明文，但据事分析，大约有以下几点：
一是未明确诸史撰修的总监和主编，各组撰修人员工作不会很协调。编纂方针、内容和体例的意见不一，是避免不了的；
二是没有很好地考虑各人特长。若要使集体修史扬长避短，就要既发挥众人协作的长处，又要以有专长者为主，免得众口不一。如北齐史，隋时李德林已有部分撰述，梁史也有陈时姚察撰述相当多篇卷，但诏令却没有安排李百药和姚思廉分别主修北齐史和梁史，使他们未能继承父业，未能发挥家学优势。而另一方面，诏令中指定的修史人员近半数并不长于撰史；
三是当时地方战事未完全平息，隋末造成的破坏还未很好恢复，大规模修史所需甚多，但此时财政和图书资料是难以充分保证的。
待到贞观三年（629）唐太宗又下诏修前代史，则计划措施显然更周密切实了。这次由于众议以《魏书》已有魏收、魏澹二家，已为详备，遂决定不再修《魏书》。对其他各史的分工是：令狐德棻、岑文本修周史，德棻又奏；
李百药修齐史；魏徵、孔颖达、许敬宗修隋史；姚思廉修梁、陈史；魏徵与房玄龄总监诸史。值得注意的是，令狐德棻和魏徵起了全面负责指导的作用。魏徵“受诏总加撰定，多所损益，务存简正。隋史序论，皆徵所作，梁、陈、齐各为总论，时称良史”。德棻除主周史外，“仍总知类会梁、陈、齐、隋诸史”。可见，所修五史均有德棻参与。所谓“总知类会”，即是负主编之责。有意思的是，魏徵作为总监，为隋史写了序论，为梁、陈、齐三史各写了总论，但独于周史未写，这反映了他对德棻是相当尊重的。
此次修史，由于有长于史学的魏徵和长于运筹的房玄龄为总监，主编令狐德棻又为当时史家先进，分工考虑到修史诸人特点，加上政局稳定，经济繁荣，人力物力财力都能保证，因而工作效率很高，贞观十年（636）正月五史修成上进。由于这五史只有纪、传两部分，没有志，贞观十五年（641）诏修《五代史志》，德棻又参加了修志，其他参加者有于志宁、李淳风、韦安仁、李延寿、敬播等，至唐高宗永徽元年（650）德棻升任《五代史志》监修。是书于高宗显庆元年（656）上进，共10志，30卷，后附入《隋书》，称《隋志》。
贞观年间修成的另一部正史是《晋书》。贞观二十年（646）闰三月，唐太宗诏修《晋书》，当时德棻以公事免职在家，于是房玄龄特意奏请起用德棻参与修撰。在当时同修的二十余人中，“并推德棻为首，其体制多取决焉”。可见德棻深为当时史家所推重。
李延寿在当时史家中，年纪较轻，地位不高。他继承父亲李大师遗志，撰成《南史》、《北史》，因是私人修史，对能否得到官方认可没有把握，于是先请任监修国史、国子祭酒令狐德棻审查，德棻作为史学前辈，大力提携后进，充分肯定了李延寿的工作，并作了一些修改，之后这两史才正式奏进于朝廷，获得公开流传的机会。
所修的《梁书》、《陈书》、《北齐书》、《周书》、《隋书》、《晋书》、《南史》、《北史》共八部正史，或饱含着德棻的大量劳动，或受到德棻的具体指导，总之，均和德棻有直接、实际的联系。一个人的名字能与二十四史的三分之一发生联系，这是史学史上的奇迹。
