宋徽宗期间，张纲以首贡进入太学，应试内舍、上舍，均得第一。崇宁殿试御赐状元及第，授太学正。政和五年张纲被委任国子监。由于蔡京当权，士无大小皆出其门。张纲官居京都后只去蔡家造拜一次，以后绝然不往，引发蔡京不满。政和六年，张纲迁任太学博士，后改任秘书省校书郎。他进朝入对，论“君子小人混杂，风俗奢靡，宜以祖宗为法”。因常与蔡京观点分歧，遂出任主管玉局观。期间，朝廷计议派遣宦官童贯、蔡攸率兵出使朔方，张纲力论不可受恩不报而出兵朔方，他的谏言未被采纳。朔方加强联盟，严守都城，戒严辖区，童贯、蔡攸领兵攻克不下。徽宗下诏：凡在上城垛固守满月者皆调升俸禄。张纲又进言：主忧臣辱，义当而已，因此受赏吗?谁料此言激怒徽宗，遂将张纲调离京都，出任两浙提刑。

　　江南东路将领王进剽悍，手下官吏因很小过错或得罪，皆被钉手于门。张纲奉诏前往究查。王遣兵围攻起事，被张纲按下就问，严厉治罪。张纲因此遂为监察御史，任上，他令郡城按月向提刑申报羁押囚犯存亡数，年终根据羁押人数多寡，考核评定政绩优劣。

　　靖康元年(1126年)六月，东方出现彗星，钦宗诏谕求言。张纲上疏：求言易，听察难，各主司部门应详审奏章，考究真情实况，一般事宜则力求简略。钦宗遂频谕宽恤民力。张纲又奏利民80件事，求请颁布中外，但因得罪秦桧被罢官回乡，隐居茅山华阳洞20年，秦桧死后方出山任职。

　　孝宗登基(1163年)，屡次召张纲出任辅政，他因年事已高，坚持不出。孝宗又专下辞赴行诏，令所在州郡对他常加存问，并赐羊、酒以示优贤。张纲常在案牍之余埋头著述，著有《华阳文集》40卷(收入《四库全书》)、《确论》10卷等多种著作。卒谥文简，祀七贤祠。《宋史》、《中国历史人物辞典》皆载其迹。