唐宪宗元和三年(公元808年)夏季四月,宪宗出题考察贤良方正、直言极谏等科目的举人,伊阙尉牛僧孺、陆浑尉皇甫湜、前进士李宗闵全都毫不避忌地指出当时朝廷在政务上的缺失,吏部侍郎杨于陵和吏部员外郎韦贯之担任主考官,韦贯之把这几个人的策论判为优秀。宪宗也很嘉勉,下诏让中书省对他们从优安排。但是宰相李吉甫却厌恶牛僧孺等人直言进谏,流着泪向宪宗控诉,并且说:“翰林学士裴垍和王涯复核策论,皇甫湜是王涯的外甥,王涯没有事先说明,裴垍也没有提出异议。”宪宗不得已,就罢免了裴垍、王涯翰林学士的职务,裴垍改任户部侍郎,王涯改任都官员外郎,韦贯之改任果州刺史。数日后,韦贯之又被贬为巴州刺史,王涯被贬为虢州司马。

二十三日,任命杨于陵为岭南节度使,也是惩罚他在担任主考官时没有提出异议。牛僧孺等人长期得不到升迁调任,于是分别答应了藩镇幕府的应召,李吉甫是名门望族出身,牛僧孺等人则靠科举做官,所谓的“牛李党争”就以此为发端。一晃二十多年过去了,刺史李吉甫已经去世,其子李德裕担任翰林学士,李宗闵也被提拔为中书舍人。因为李宗闵之前在考试写策论时陈述政务的缺失,对当时担任宰相的李吉甫有很多讥讽之词,所以李德裕一直非常痛恨他。而且李宗闵还和翰林学士元稹因为争夺权位导致嫌隙。

到了唐穆宗长庆元年(公元821年),这一年的考试由右补阙杨汝士和礼部侍郎钱徽做主考,西川节度使段文昌和翰林学士李绅都各自写信向钱徽推荐自己所看中的进士,等到发榜,段文昌和李绅推荐的人全都落选,中榜的有郑朗,是郑覃的弟弟,有裴潠,是宰相裴度的儿子;有苏巢,是李宗闵的女婿;有杨殷士,是杨汝士的弟弟。因此段文昌就对穆宗说:“今年礼部考试很不公平,所录取的进士都没学问,纯粹是靠关系得中的。”穆宗就此事询问各位学士,李德裕、元稹、李绅都说:“段文昌说得没错。”于是穆宗就派中书舍人王起等人去覆查,夏季四月十一日,下诏罢黜郑朗等十名进士,并且把钱徽贬为江州刺史,李宗闵贬为剑州刺史,杨汝士贬为开江令。有人劝钱徽把段文昌和李绅的托付信呈上,皇帝一定会明白真相的,但是钱徽却说:“要是无愧于心,升官和贬官都毫无分别,为什么要去揭发别人的私信?这不是君子所为。”把信拿出来烧掉了,当时的人都很敬佩他。从此李德裕和李宗闵、牛僧孺就各结朋党,互相倾轧,延续了整整四十年。

文宗太和三年(公元829年)八月,裴度推荐李德裕做宰相,几乎同时,李宗闵也得到宦官的帮助,二十七日,被加上同平章事的头衔。然后九月,李宗闵就把李德裕排挤出朝,去担任义成节度使。翌年(公元830年),李宗闵推荐牛僧孺,文宗任命牛僧孺为兵部尚书、同平章事。于是二人一起排挤李德裕的党羽,逐渐把他们一一驱赶出京。太和五年(公元831年)九月,吐蕃的维州剧使悉怛谋向李德裕请降,朝廷将此事交付尚书省讨论,牛僧孺说:“吐蕃国的大小,四方各有万里,丢掉一个维州,并不能损耗他们的力量。他们过去前来交好,商定休兵,我们应当守信用。倘若他们责备我们失信,发兵前来,不用三天就能到咸阳桥,那么在西南数千里外,就算得到一百个维州,又有什么用呢?白白地舍弃诚信,有害无益,这种事就算平头百姓都做不出来,更何况天子呢?”文宗认为他说得对,就下诏命李德裕把维州还给吐蕃,把悉怛谋和跟从他前来投奔的人全都逮起来送回去,吐蕃把这些人全部在边境上诛杀,手段极其残酷。从此李德裕更加痛恨牛僧孺了。

过了一段时间,文宗逐渐有些后悔,觉得牛僧孺失策,依附李德裕的人趁机就说:“牛僧孺和李德裕有矛盾,所以要损害他的功劳。”文宗因此逐渐疏远牛僧孺,不久后就把他赶出京城,去做淮南节度使。牛李之争,大抵如此,只论朋党,不讲道义,唐朝的政治因此更为败坏。