吏部侍郎李林甫,狡猾奸诈,深入结交宦官以及妃嫔的家庭,以窥伺唐玄宗的举动,对他一言一行全都能明确掌握。所以李林甫每次上奏和对答全都合乎玄宗的心意,玄宗非常高兴。当时武惠妃在后宫最受玄宗的宠爱,生下了寿王李清,玄宗的儿子里没人能跟他相比,就连太子也逐渐被疏远。李林甫就通过宦官对武惠妃说,自己会尽力保护寿王,武惠妃很感激,暗中在宫内做他的帮手。

朔方节度使牛仙客在河西的时候,能够节省用度,勤于政务,使得仓库充实,武器精良,玄宗听说后嘉奖他,打算晋升他做尚书,或者封给食邑,但宰相张九龄坚决反对。李林甫对玄宗说:“牛仙客有宰相之才,何况尚书呢?张九龄是书生,不识大体。”玄宗很高兴,第二天就打算下达封给食邑的诏书,但是张九龄仍然固执地反对。玄宗怒道:“事情都由你说了算吗?”张九龄磕头说:“陛下不知道臣愚鲁,让臣做宰相,事情有不合适的,臣不敢不畅所欲言。”还说:“牛仙客是边境地区的小官吏,没读过什么书,倘若重用他,恐怕他难孚众望。”李林甫退朝后说:“只要有才干有见识,又何必读很多书呢?天子想用人,有什么不可以的?”最终,玄宗还是封牛仙客为陇西县公,食邑三百户。在此之前,玄宗想让李林甫当宰相,就询问张九龄,张九龄回答道:“宰相身系国家安危,陛下让李林甫当宰相,怕将来会成为国家的祸患。”玄宗不肯听从。当时张九龄正因为文学才能而被玄宗看重,李林甫虽然恨他,却仍然曲意侍奉他。这时候,玄宗在位日子久了,逐渐奢靡,怠于政务,张九龄遇事不论大小都要力争,李林甫善于窥伺玄宗的心意,每天都想着该怎么中伤他。

李林甫推荐萧炅做户部侍郎。萧炅向来不学无术,曾经当着中书侍郎严挺之的面把“伏腊”读成“伏猎”,严挺之就对张九龄说:“尚书省里怎能有“伏猎侍郎’!”故而把萧炅贬为岐州刺史。为此李林甫怨恨严挺之。张九龄和严挺之交好,想要推荐他做宰相,曾经对他说:“李尚书(指李林甫)正受宠信,你应当前去拜访,跟他联络一下感情。”但是严挺之向来自负,瞧不起李林甫的为人,竟然不肯去拜访。李林甫对他更为痛恨了。严挺之先前所娶的妻子,离婚后改嫁给蔚州刺史王元琰,王元琰因为贪污罪而被御史、中书、门下三司查办,严挺之为他求情。于是李林甫就趁机让左右人前往宫中禀报。玄宗对宰相说:“严挺之向有关部门为罪人说情。”张九龄说:“此人娶了严挺之离婚的妻子,两人间不会有什么情弊。”玄宗说:“就算离了婚也可能有私情。”

于是玄宗想起以前一些事,认为张九龄和另一位宰相裴耀卿庇护自己的党羽,就任命他们做左、右丞相,但罢掉了参知政事的头衔。李林甫被任命为中书令,成为首相,严挺之被贬为洺州刺史,王元琰被流放岭南。自从玄宗继位以来,所任用的宰相,姚崇擅长变通,宋璟执法严明,张嘉贞重视吏治,张说文采斐然,李元纮、杜暹崇尚节俭,韩休、张九龄为人正直,都各有所长。等到张九龄因罪被贬后,朝廷官员全都明哲保身,没有人再敢说实话了。李林甫想要闭塞玄宗的耳目,自己好大权独揽,就公开召见众谏官,对他们说:“如今明主在上,群臣顺着他的心意都来不及,还多说什么废话?你们没见过仪仗队里的马匹吗?吃的和三品官一样好,可是一旦嘶鸣,立刻就被赶走,后悔也来不及啦。”补阙杜琎曾经上奏论事,第二天就被贬黜为下邽令。从此官员对君主的劝谏之路断绝了。

李林甫做宰相,对于那些才学、名望、功劳比自己高,并且受到玄宗宠信,权势会威胁到自己的官员,一定想方设法将其赶走,尤其忌惮因为文学才能而做官的人士,经常表面上和对方交好,说些动听的话,暗中却设计谋害。所以当时人都说李林甫是“口有蜜,腹有剑” ,这就是成语“口蜜腹剑”的由来。