有一次，唐玄宗很赏识外官严挺之的才能，想重用他。李林甫心中嫉妒，就设法陷害严挺之。他故意怂恿严挺之装病回京，以便任用。等严挺之回来了，李林甫又上奏唐玄宗，说严挺之得了很严重的病，不能行动。因此，严挺之最终也没有得到重用，有苦说不出。
又有一次，李林甫想打击另一个与他争权的大官李适之，假意对他说：“华山那地方储藏着大量的金矿，如果能开采出来，皇上一定很高兴。”李适之听了李林甫的话，就立即禀告唐玄宗，并请求派自己去开采。唐玄宗征求李林甫的意见，李林甫回答：“华山是帝王之气集中的地方，如果在那里挖金子，恐怕对皇上不利。”从那以后，唐玄宗就对李适之不太信任了。
李林甫这样阴险狠毒，一直为后人所唾弃。北宋的司马光在编纂《资治通鉴》时评价李林甫的为人说：“口有蜜，腹有剑。”
后来，人们就用“口蜜腹剑”作为成语，形容某些人话讲得甜蜜动听，但心里却极其阴险恶毒。