再上过一次奏疏。因病请假离开京师来到故乡江陵，休假三年中，他开始游山玩水，在这三年中，张居正游览了许多名胜古迹，使他发现了新的问题，他在《荆州府题名记》中说：“田赋不均，贫民失业，民苦于兼并。”这一切不禁使他侧然心动，责任感让他重返政坛。
张居正回翰林院供职，在苦闷思索中渐已成熟，在政治的风浪中，他模仿老师徐阶内抱不群，外欲浑迹，相机而动。进宫右春坊右渝德兼国子监司业，徐阶荐张居正为裕王朱载垕的侍讲侍读，在裕邸期间，张居正任国子监司业，从而掌握了很多将来可能进入官场的人，这为张居正打开了人脉。
世宗去世后，徐阶起草遗诏，引张居正与之共谋，不久张居正升任礼部右侍郎兼翰林院学士。月余，与裕王潜邸故讲官陈以勤一起入阁，而张居正为吏部左侍郎兼东阁大学士。张居正以裕王府旧臣的身份，擢为吏部左侍郎兼东阁大学士，进入内阁，参与朝政。又改任礼部尚书、武英殿大学士，他终于在暗暗的较量中“直上尽头竿”了。
入阁以后的张居正，正值明王朝流民四散，草译祸起，国家帑藏空虚，用度匮乏之际，并且北方鞑靼进兵中原，制造“庚戌之变”，南方土司争权夺利，岑猛叛乱，“两江震骇”，东南倭寇骚扰沿海，民不聊生。此外，内阁内部的政治斗争日益白热化，严嵩倒台后，徐阶继任首辅，他和张居正共同起草世宗遗诏，纠正了世宗时期的修斋建醮、大兴土木的弊端，为因冤案获罪的勤勉朝臣恢复宫职，受到了朝野上下的普遍认同。徐阶终因年迈致仕，徐阶的老对手高拱重回内阁兼掌吏部事，控制了内阁大权。
鞑靼首领俺答汗进攻大同，计划称帝，居正闻悉俺答的孙子把汉那吉，携妻比吉和乳母的丈夫阿力哥共十几人情求内附，大同巡抚方逢时和宣大总督王崇古决策受降。鉴于此事非同小可，张居正写信，要崇古立刻把详情“密示”于他。原来，俺答的第三个儿子死时遗一小孩即把汉那吉，把汉那吉长大娶妻比吉，后爱上姑母之女三娘子并再娶。然而，身为外祖父的俺答，也爱上了三娘子，意据为己有，于是祖孙之间为一个小女子心中结怨，演出失恋青年离家投汉的一幕。
张居正接到报告，再次写信给王崇古，要其妥善安排把汉那吉，并派人通报俺答：“中国之法，得虏酋若子孙首者，赏万金，爵通侯。吾非不能断汝孙之首以请赏，但彼慕义而来，又汝亲孙也，不忍杀之。”然后，张居正指授方略，要祟古、逢时奏疏皇上纳降，朝中很多人极力反对，认为敌情叵测．果