由是宰相张柬之、崔玄暐，中台右丞敬晖、司刑少卿桓彦范、相王府司马袁恕己聚议，共谋诛除二张。
张柬之密召右羽林卫大将军李多祚，私谓：将军自云今日之富贵，是谁所致也？
李多祚知其言外之意，流泣答道：乃高宗大帝也。
张柬之：既是如此，其时至矣。今大帝之子尽没，只余太子及相王两个，又皆为张氏二竖所危，将军不思报大帝之德乎？
李多祚再拜说道：苟利国家之事，惟听相公处分，末将不敢顾身，以及妻子！
言罢，复指天地设誓。张柬之大喜，遂与其定谋。
张柬之嘱罢李多祚，复请右羽林将军杨元琰入内，凝视其双目问道：君颇记当日江中之言乎？今日之事，非轻授也。
原来张柬之当年便与荆府长史杨元琰相厚，曾同舟渡江南下，船至中流，语及太后革命以周代唐之事，杨元琰便慨然有匡复之志。及张柬之为相，遂引杨元琰为右羽林将军。
杨元琰见问，亦割指出血为誓道：当年之事，无一日或忘。恩相若有用某之外，赴汤蹈火，在所不辞！
张柬之甚是嘉慰，遂说以谫除二张之计；又授桓彦范、敬晖及右散骑侍郎李湛兵符，使皆为左、右羽林将军，委以禁兵之权。
张易之兄弟闻说，大增疑惧。张柬之更以武攸宜为右羽林大将军，二张乃安。
其后未久，姚崇自灵武出差回来，还至神都。
张柬之、桓彦范见到姚崇大喜，相顾而笑道：此公既回，大事济矣！
遂以其谋告之，宋元之自是双手赞成，更无异议。
桓彦范还至家中，以所谋之事诉于其母，流涕说道：儿将此身许国，只恐其事不成，累及母亲，便为不孝之子耳。
桓母慨然道：自古忠孝不能两全，我儿先国后家可也。
桓彦范由此拜别母亲，出府邀上敬晖，夤夜前往北门，谒见太子李显，密陈宰相张柬之所定计策。太子问其详细，欣然许之。
神龙元年，正月癸卯日。
张柬之、崔玄暐、桓彦范发动，与左威卫将军薛思行联手，帅左右羽林兵五百人至玄武门；复遣李多祚、李湛及内直郎、驸马都尉王同皎，皆率本部亲兵诣北门迎接太子。