曹操退回舞阴，张绣引兵追击，被曹操击退，于是张绣退回防守穰城，再次与刘表联盟……

《傅子》说：曹操给张绣亲信的胡车儿送礼物，张绣听说了以后怀疑曹操想用胡车儿刺杀他，于是起兵。《吴书》则记载：张绣用贾诩计，请求将军队迁移到野外，道路经过曹操营屯。张绣又说道：“我军车少而重，希望士兵都能披甲。”曹操信任张绣，都听从。张绣于是趁军队迁移时袭击曹营，曹操没有防备而战败……

曹操从舞阴回军后，南阳、章陵诸县反叛响应张绣，曹操令曹洪率兵征讨。曹洪作战不利，还屯叶县，张绣、刘表多次攻打他……

建安三年（公元198年）三月，曹操南征张绣，包围张绣据守的穰城，不久，曹操闻袁绍欲趁虚袭取许都，便立即从穰城撤退，张绣率兵尾随追击，刘表也派荆州军占据安众，切断曹军退路，企图与张绣夹击曹军，曹操出奇兵大败张、刘联军……

曹军获胜后，速行北撤，张绣亲自率兵追击，贾诩劝阻说：“不可追，追必败。”张绣不听，强行追击，被曹操亲自断后击败，贾诩这时又对张绣说：“赶快再追，一定会获胜。”张绣说：“不听你的建议才落到这种地步，现在已经败了，为何要再追？”贾诩说：“形势已经起了变化，赶快去追准能获利。”张绣听从贾诩建议，收集散兵，再行追击，竟将曹操后卫部队击溃……

得胜后，张绣问贾诩请教是怎么回事，贾诩解释说：“这个道理很容易明白罢了。将军虽然擅长用兵，但绝非曹公敌手。曹军虽然刚撤，但曹公必然亲自殿后，我们的追兵虽精，但将领比不过他们，他们的士兵还很有士气，所以我知道将军你必败。曹操之所以还未尽力就已撤兵，一定是后方出了事，所以击破将军的追兵后，一定会全力撤退，留别人断后，他留的将领虽厉害，却比不上将军，所以我知道将军用败兵也能取胜。”张绣大为佩服……

建安四年（公元199年），袁绍遣人招降张绣，并与贾诩结好，张绣准备同意，贾诩却当着张绣的面回绝了袁绍的来使，准确地指出袁绍不能容人，而投降曹操有三点优势：曹操奉天子以令天下，名正言顺；曹操兵力较弱，更愿意拉拢盟友；曹操志向远大，一定能够不计前嫌。张绣听从贾诩的建议，再次向曹操投降……

张绣到达后，曹操牵着张绣的手，一起参加宴会，为自己的儿子曹均娶了张绣的女儿，并封张绣为扬武将军……

建安五年（公元200年），张绣参加了官渡之战，力战有功，升为破羌将军……

建安十年（公元205年），张绣跟随曹操在南皮击破袁谭，再次增加食邑，一共2000户，当时天下户口剧减，十户才留下一户，将领中封邑没有达到1000户的，唯独张绣特别多……

建安十二年（公元207年），张绣跟随曹操去柳城征讨乌桓，还没有到达就死了，被谥为定侯……

张绣儿子张泉袭爵，张泉后来卷进了魏讽的谋反事件，被视为同党诛戮……