据说前丞相狄仁杰曾极力推荐张柬之接替自己。狄仁杰是武则天最重要、最信任的大臣，武则天称帝后，李唐宗室大臣大多遇害，只有狄仁杰因忠诚、正直、能干而深得其偏爱。狄仁杰也是少数几个敢于直谏并为武则天接受的大臣之一，他的许多建议都被贯彻为国家大政。除此之外，狄仁杰还推荐了许多德才兼备的人才。
武周建立之初，武则天要狄仁杰推荐将相之才，于是狄仁杰郑重推荐了时任荆州刺史的张柬之。张柬之一度入京为官，但不久就因违逆武则天的旨意被逐出京师，外放地方为官。后来，武则天又要狄仁杰推荐人才，狄仁杰仍推荐张柬之。武则天说这个人我已经用过了啊，狄仁杰回答:“我为陛下推荐的是宰相之才，但张柬之还没有担任丞相啊。”武则天又让姚崇推荐宰相之才，姚崇也推荐了张柬之，说:“张柬之沉厚有谋，虽然年老但能断大事，惟陛下急用之。”武则天这才立即召见张柬之，任命他为同凤阁鸾台平章事，并很快升迁为凤阁侍郎，负责朝廷政事。
张柬之虽老，却一直感叹年华易逝，渴望着建功立业的机会。他在《杂曲歌辞·东飞伯劳歌》中写道:“青田白鹤丹山凤，婺女姮娥两相送。谁家绝世绮帐前，艳粉芳脂映宝钿。窈窕玉堂褰翠幕，参差绣户悬珠箔。绝世三五爱红妆，冶袖长裾兰麝香。春去花枝俄易改，可叹年光不相待。”所以，刚一担任主政大臣，他就急不可待地要有所作为了，而且一出手就是大手笔。
张柬之心怀李唐王朝，希望通过复辟李唐王朝来扭转武周的乱象，救世济民，也使自己垂名青史。他已经80岁了，必须抓紧时间行动，所以他很快就联系了若干正直的大臣和部分羽林军将领，出面组织、策划了铲除二张、复辟唐朝的计划。在所有的计划方案中，李唐遗脉、太子李显的配合是至关重要的，李显出面不仅可以成为政变的号召人，同时他也是日后最理想的皇帝人选。
于是，张柬之暗中找到李显商议。李显经过片刻的犹豫，同意参与政变。一向懦弱怕事的李显为什么同意参与政变呢？因为在诛杀张易之兄弟的问题上，他和大臣们的利益是一致的，而大臣们拥立他复辟唐朝的远景也唤醒了埋藏在他心中的荣誉感和责任感。
至此，一个以李显为名义首领、张柬之为主谋的政变集团迅速形成了。