李百药出身于仕宦家庭。父亲李德林字公辅，北齐时官至中书侍郎，参与国史修撰，编成纪传体《齐史》27卷，入隋官至内史令，封安平公，任内又奉诏续修《齐史》，全书未成而卒。李百药自幼受到家庭影响，少年时就好学博闻，富于独立见解。李百药在隋开皇初年曾任东宫通事舍人、太子舍人、礼部员外郎等职，还承袭了父亲李德林的安平公爵位。他的才能得到隋文帝赏识，一时朝中奏议文告，多出自他的手笔。隋炀帝时他受到排挤，官运蹇滞。隋朝末年农民大起义时，他曾被胁裹到沈法兴、李子通、杜伏威等人的队伍中。入唐后，他受到唐太宗的重用，起用为中书舍人，赐爵安平县男，又任礼部侍郎，最后官至宗正卿，封安平县子。李百药在唐太宗时参加了制定《五礼》及律令的工作。在辅佐太子李承乾之时，对承乾漫游无度的行为数有匡正，对于朝中的其他政事，也不时提出自己的看法，在政治上有些作为。
出仕为官
李百药幼时很聪慧好学，七岁就能理解文章大意。有一次，父亲的朋友陆乂、马元熙来他家作客，谈诗论文。客人读陈时著名学者徐陵文章，对其中一句“既取成周之禾，将刈琅邪之稻”，颇感迷惑，不知出自何典。百药在旁应声答道：“《传》称‘鄅人藉稻’。杜预注云‘鄅国在琅邪开阳。’”客人听后大为惊叹。百药二十岁左右，正值隋朝初年，被授东宫通事舍人，步入仕途。不久，升迁为太子舍人，兼东宫学士，成为陪伴太子的学者。年少有才的百药招来一些人的嫉妒和诽谤，为避祸，他随即称病辞官。
开皇十九年（599），因父亲去世，袭爵安平公。左仆射杨素、吏部尚书牛弘很看重百药，于是奏请授百药为礼部员外郎，太子杨勇又将百药召为东宫学士。从此，百药发挥自己的才学，奉诏参与修《五礼》，定律令，撰《阴阳书》，作奏议文表。然而正当百药积极施展才能抱负之时，却突然被卷入最高统治层的争斗中，成了受害者。原来，隋文帝第二子晋王杨广是个野心勃勃的人物。他对其兄杨勇的太子之位早存觊觎之心，乘出镇扬州（今属江苏）之机，四处招揽人才，培植个人势力。他召百药为幕僚，但百药称病推辞，杨广由此对他怀恨在心。
仁寿四年（604）隋文帝死，已谋得太子之位的杨广即位，是为隋炀帝。百药被贬出京城，为桂州（今广西桂林）司马。后来罢州置郡，百药的司马一职也被免去，于是回归乡里。大业五年（609），百药出任鲁郡（治所在今东曲阜）步兵校尉，大业九年（613），戍守会稽（治所在今浙江绍兴），后又授建安（治所在今福建建瓯）郡丞。这时，隋末农民大起义正如火如荼地兴起，百药去建安途经乌程（今浙江吴兴南）时，隋炀帝被部将宇文化及杀死于江都，隋皇朝统治机构一片混乱。百药没有到建安就职，参加了反隋的农民起义，先后任职于沈法兴、李子通、杜伏威军中。杜伏威占有江南一带，北方李唐势力浩大。李渊派使者招抚杜伏威，百药力劝杜伏威归唐。杜伏威听从，遂前往京城，命部将辅公祏与百药留守。但杜伏威在途中又有些犹豫后悔，遂写信密令辅公祏杀百药，幸杜伏威养子王雄诞极力保护，百药得免于死。随后辅公祏起兵反唐，任命百药为吏部侍郎。有人告知李渊，百药与辅公祏同反，李渊大怒。平定辅公祏后，李渊就要治百药之罪，恰好这时发现杜伏威令辅公祏杀百药的密信，证明百药与辅并非同党。李渊这才怒气稍平，但仍以反唐罪名将百药流放泾州（今甘肃泾川北）。一直到武德末年，百药始终未获唐高祖的任用。
委以重任
唐太宗即位后，他很看重百药的才名。贞观元年（627）召百药为中书舍人，赐爵安平县男，并命其参与修撰《五礼》及律令。百药又奉诏撰北齐史，贞观十年（636）正月《北齐书》上进，得到嘉奖，加散骑常侍，行太子左庶子，赐物四百段。第二年，《五礼》及律令撰成，百药爵位又从“男”进为“子”。这个时期是百药一生中最惬意时期，才能得到较充分发挥，官位显赫，生活安定。他自然对唐太宗尽心竭力，以报知遇之恩。由于以往百药经历坎坷，几经贬官，数次遭人谮害，甚至险些丧生，因而他生活阅历丰富，积累了较多的政治经验。从他撰《封建论》和《赞道赋》两件事中可看出李百药的政治眼光和对李唐皇朝的忠心耿耿。
一论一赋
贞观初年，朝廷中有一次重大的政治辩论，即，是实行封建制还是实行郡县制。事情的起因是这样的。唐太宗对大臣萧瑀说：“朕欲使子孙长久，社稷永安，其理如何？”萧瑀答道：“臣观前代国祚所以长久者，莫若封诸侯以为磐石之固。秦并六国，罢侯置守，二代而亡；汉有天下，郡国参建，亦得年余四百；魏晋废之，不能永久。封建之法，实可遵行。”萧瑀是守旧贵族势力的代表人物。他是后梁明帝萧岿之子，年九岁就封新安郡王。因此他极力鼓吹分封制是不奇怪的。他的这一通似是而非的议论竟引起唐太宗的注意，于是，“始议封建”。诸大臣各抒己见，展开辩论。魏徵、长孙无忌、于志宁、马周等都反对实行封建制，但有理有据、系统深刻阐述这一观点的，当推李百药所上长篇奏疏《封建论》。
百药认为，时代变了，制度也须改变，实行郡县制是必然趋势。赞成分封者，是不通古今变化。当今若实行分封，就如同“结绳之化行虞、夏之朝，用象刑之典治刘、曹之末”，等于“锲船求剑”。这是一种朴素的历史发展观点。
接着，百药具体分析了分封制的危害：封邦建国之后，使受封家族以高贵门第自傲，忘记先人创业的艰难，不愿靠个人才干而进取，莫不一代比一代骄奢残暴。并且数代之后，王室一旦衰弱，所谓藩国屏障就会变成仇敌，封国各行其是，强国欺凌弱国，争夺土地人口的战事不断。百药以“春秋二百年间，略无宁岁”的史事来说明，分封制造成了连绵不断的攻伐征战。另一方面，百药大力推崇郡县制的优越性：设官分职，任贤使能，内外百官都由朝廷决定。可以从士人庶民中提拔人才，可以像水镜那样清晰地考察他们。以资格及辛劳程度确定其官职阶品，以政绩优劣确定废黜或迁升。总而言之，爵位不世传，启用贤人之路就广；百姓无定主，与朝廷的离心力就不大。《封建论》表现出维护国家统一、反对分裂割据的进步倾向，充分肯定了郡县制取代封建制是历史的进步。百药卓越的政治见解，深深打动了唐太宗，“太宗竟从其议”。唐中叶，柳宗元有一篇著名的《封建论》，可以看作是百药《封建论》的继承和发展。
还有一件事反映出李百药对唐皇朝的忠心耿耿。贞观四年（630），唐太宗授百药太子右庶子，令其辅教太子承乾。起初太子对学习经籍颇有兴趣，但后来耽于享乐，嬉戏过度。于是百药便作《赞道赋》一文以规劝太子。唐太宗见到此赋后非常赞赏，派使者对百药说：我在太子处见到你所献的赋，以历来储君成败事告诫太子，很是精辟切实。我选你辅佐太子，非常称职，希望能善始善终。赐百药彩绢五百段。
百药以才学和操行闻名于世，受到各方面名流的敬重。他为人沉静寡言，乐于引进青年，提携后进，又不喜聚敛财富，所得俸禄，多散分亲友。百药不但在史学上有突出成就，而且文学上也造诣颇深，尤其擅长五言诗，通俗易懂，“虽樵童牧竖，并皆吟讽”，可见影响之广。唐太宗晚年曾作《帝京篇》，让也进入晚年的百药以此题另作一篇。文成，唐太宗极为赞叹：“卿何身之老而才之壮，何齿之宿而意之新乎！”贞观末，百药因年老执意辞官，回到故里。贞观二十二年（648）去世，年八十四。有文集30 卷。他除擅长文章外，还很善于写诗。他的传世之作有诗20余首，文章13篇，以及被列入二十四史的《北齐书》。
作北齐书
李百药撰成《北齐书》，这是他在史学上的重大贡献。《北齐书》50 卷，大致记载了东魏、北齐（534—577）的历史。由于北魏分裂为东魏、西魏，而东魏的军政大权掌握在高欢手中，高欢之子高洋建立北齐，因此从历史叙述的系统完整性来看，《北齐书》记载由叙高欢事迹开始，是符合客观实际的。
百药撰《北齐书》，有数家北齐史可供参考，最主要的是其父李德林的未完稿。李德林在北齐官中书侍郎，曾奉诏修国史，终北齐末，修纪传体北齐史27 卷，全书未成。入隋后，李德林续撰，增至38 卷，送交朝廷，藏于秘府。其他北齐史有，王劭《齐志》及《齐书》。王劭，字君懋，晋阳（今山西太原）人，历仕北齐、北周、隋，为著名史家。他最初撰编年体《齐志》20 卷，又撰纪传体《齐书》100 卷。此外还有崔子发《齐纪》30 卷。
