天圣二年（1024年）中进士，授越州会稽知县。六年（1028年）他治理镜湖，立斗门，泄水入曹娥江，使湖边民田免受水涝之苦。数年后，晋升入京，任国子监直讲，后改作诸王府侍讲。不久，升任集贤殿校理、天章阁侍讲、知制诰兼史馆修撰。
庆历八年（1048）仁宗下召求言。曾公亮上疏条陈六事，都是针对当时积弊所发的改革建议。由于政绩卓著，因而得了宋仁宗的器重。皇祐三年（1051年）升翰林学士；嘉祐元年 （1056年）吏部侍郎，同中书门下平章事，集贤殿大学士，与宰相韩琦共同主持朝中政事。 曾公亮支持过王安石变法，引起了杨绘、滕甫等保守派的不满。宋神宗问曾公亮，王安石闻名先朝，屡召不至，是真有病吗，还是有所要托呢？曾公亮回答：“王安石确是辅相之才，必不欺罔！”宋神宗乃下诏任王安石为翰林学士。
熙宁四年（1071年）起判永兴军。元丰元年（1078年），公亮逝世，神宗辍朝三日，赠太师、中书令，配享英宗庙廷，谥“宣靖”，神宗曾赞扬说，“公亮谨畏周密，内外无间言，受遗辅政，有始有卒，可方汉张安世。”葬于河南新郑县，墓址在今河南新郑市八千乡辛庄村南一华里处，其墓冢与“重修曾坟寺碑”尚存。墓碑为宋神宗亲笔：“两朝顾命定策元勋之碑”。南宋理宗宝庆二年（1226年），被列为功臣，绘像张挂于昭勋崇德阁。《宋史·曾公亮传》和朱熹《三朝名臣言行录》都赞美他“所至举职，皆有能名。”
曾公亮的父亲当过刑部郎中，曾公亮自己的儿子曾孝宽又当上右丞相，到了南宋又有曾怀、曾从龙等人位极人臣，一家子共出了四位宰相一位状元，人称“曾半朝”或“一门四相”。
