合由于军功多，升任宁国中郎将，成为袁绍麾下的重要将领之一。
在袁绍阵营中，张合与其他将领之间的关系复杂多样。一方面，他与一些将领合作默契，共同为袁绍的事业奋斗。例如与颜良、文丑等将领，在一些战役中相互配合，各自发挥自己的优势，取得了不少胜利。他们在战场上并肩作战，共同抵御敌人的进攻，为袁绍的势力扩张立下了汗马功劳。然而，另一方面，由于袁绍内部的权力斗争和派系纷争，张合也不可避免地卷入了一些矛盾之中。袁绍手下的谋士郭图等人，为了争夺权力和利益，常常在袁绍面前争功诿过，导致将领之间的关系变得紧张。在官渡之战中，张合与郭图就产生了严重的分歧。袁绍派将军淳于琼等人督运粮草屯驻乌巢，曹操亲自领兵迅速出击。张合劝袁绍说：“曹公士兵精锐，去了一定会击溃淳于琼等人。琼一旦失败，那么将军的大业就要毁掉，应该赶快带兵援救。”但郭图却认为：“张合的计策不对，不如进攻曹操大本营，曹操势必回救，这就叫不救自解。”张合据理力争：“曹公营盘牢固，肯定攻不破。如果淳于琼等人被俘，我们也就全部要当俘虏了。”袁绍最终没有采纳张合的建议，只派出一支轻骑兵增援淳于琼，而用重兵攻打曹操大本营，结果不能攻破。曹操果然大破淳于琼，袁绍全军崩溃。
随着局势的发展，袁绍在官渡之战中大败于曹操。在这场关键的战役中，张合看到了袁绍的刚愎自用和决策失误，对袁绍的未来感到担忧。他深知袁绍已大势已去，继续留在袁绍阵营中，很难再有更大的作为。同时，他也认识到曹操的雄才大略和用人之道，曹操善于纳谏，能够充分发挥将领的才能，且曹操势力正逐渐壮大，有着更广阔的发展前景。经过深思熟虑后，张合决定转投曹操阵营。在做出这个决定的过程中，张合也面临着巨大的压力和风险，毕竟他是从袁绍阵营中叛变而来，可能会遭到袁绍势力的追杀和报复。但他坚信自己的选择是正确的，为了实现自己的抱负和理想，毅然决然地踏上了新的征程。
曹操对张合的到来表示热烈欢迎，并对他的军事才能给予了高度评价。曹操深知张合的价值，他明白张合这样一位有着丰富作战经验和卓越军事才能的将领，对自己的事业将有着巨大的帮助。曹操立即任命张合为偏将军，封为都亭侯，交给他部队，让他随从自己攻打邺城，张合也不负所望，在攻打邺城的战斗中表现出色，帮助曹操顺利占领了邺城。此后，张合又跟随曹操参与了许多重大战役，如在白狼山战役中，张合与张辽一起担任先锋，斩杀塌顿