天圣二年(1024年)中进士,授越州会稽知县。六年(1028年)他治理镜湖,立斗门,泄水入曹娥江,使湖边民田免受水涝之苦。数年后,晋升入京,任国子监直讲,后改作诸王府侍讲。不久,升任集贤殿校理、天章阁侍讲、知制诰兼史馆修撰。
庆历八年(1048)仁宗下召求言。曾公亮上疏条陈六事,都是针对当时积弊所发的改革建议。由于政绩卓著,因而得了宋仁宗的器重。皇祐三年(1051年)升翰林学士;嘉祐元年 (1056年)吏部侍郎,同中书门下平章事,集贤殿大学士,与宰相韩琦共同主持朝中政事。 曾公亮支持过王安石变法,引起了杨绘、滕甫等保守派的不满。宋神宗问曾公亮,王安石闻名先朝,屡召不至,是真有病吗,还是有所要托呢?曾公亮回答:“王安石确是辅相之才,必不欺罔!”宋神宗乃下诏任王安石为翰林学士。
熙宁四年(1071年)起判永兴军。元丰元年(1078年),公亮逝世,神宗辍朝三日,赠太师、中书令,配享英宗庙廷,谥“宣靖”,神宗曾赞扬说,“公亮谨畏周密,内外无间言,受遗辅政,有始有卒,可方汉张安世。”葬于河南新郑县,墓址在今河南新郑市八千乡辛庄村南一华里处,其墓冢与“重修曾坟寺碑”尚存。墓碑为宋神宗亲笔:“两朝顾命定策元勋之碑”。南宋理宗宝庆二年(1226年),被列为功臣,绘像张挂于昭勋崇德阁。《宋史·曾公亮传》和朱熹《三朝名臣言行录》都赞美他“所至举职,皆有能名。”
曾公亮的父亲当过刑部郎中,曾公亮自己的儿子曾孝宽又当上右丞相,到了南宋又有曾怀、曾从龙等人位极人臣,一家子共出了四位宰相一位状元,人称“曾半朝”或“一门四相”。
曾公亮对邻国的无端生衅,总是针锋相对,寸步不让。英宗时候,契丹贺正使在馆,朝廷按例赐宴紫宸殿。当时英宗有疾不愈,命宰臣曾公亮就馆宴之。契丹使者认为这样是破坏惯例,有失他们的尊严,因此不愿即席。曾公亮毫不客气地说:“赐宴不赴,是对君命的不诚!人主不愈,要求其必亲临,居心何在?”使者听了这入情入理的话,无言可答,只好乖乖就席。熙宁七年(公元1074年)春,契丹遣使萧禧来言:“代北对境有侵地,请遣使来共同分画。”神宗皇帝得报,即以手诏赐韩琦、文彦博、曾公亮。手诏言,朝廷与北虏通好已将八十年,近岁以来,生事愈多,代北之地,素无定封,设造衅端,妄来理辩……曾公亮在给神宗的疏奏中说道:“乞选将帅,整兵以待敌。”准备随时给挑衅者以迎头痛击。