和韩世忠一样,张俊也是出身贫庶,少年从军，十六岁时充当弓箭手。

宋徽宗宣和年间,在与西夏作战及镇压山东李太、河北武胡等农民起义的战斗中，累功迁武德郎。

靖康元年,金人攻太原,其随种师中往援。

康王赵构任兵马大元帅,张俊即率部往从,擢元帅府后军统制。

宋高宗赵构即位后，任御营司前军统制。

苗傅、刘正彦政变之中，宋高宗被废，张俊与韩世忠等在张浚节制下，平定事变，升为御前右军都统制，拜节度使。

建炎四年，张俊守明州城，一度击退来犯金兵，获高桥之捷，旋因完颜宗弼反扑，弃城逃遁。

次年，张俊为江淮招讨使，讨伐叛将李成，并多次挫败伪齐的侵扰。

当时与韩世忠、刘锜、岳飞并为名将，所部称张家军。

绍兴十年，金军南侵，宋诸军迎击，其部将王德收复宿州、亳州。

后张俊迎合高宗、秦桧解除诸将兵权的意旨，旋即撤军。次年，首请解除兵权，授枢密使。

但同时张俊又排挤刘锜，追随秦桧制造伪证，促成岳飞冤狱。后罢枢密使，进封清河郡王，备受高宗宠遇。

绍兴二十一年，拜太师，后于绍兴二十四年（六月卒。

“张俊没能被绿龙提拔上来，十有八九就是因为张俊曾经联合奸臣秦桧一起制造伪证，构陷岳飞。绿既然如此喜爱岳飞，那就肯定不会提拔张俊到天庭来。”