开成五年，唐武宗继位，将李德裕从淮南召回朝廷，拜为宰相，授其为门下侍郞、同中书门下平章事。当时唐武宗不理朝政，屡次出猎游幸，至深夜方才还宫。李德裕加以劝谏，被册拜为司空。会昌元年四月，李德裕奏请改撰《宪宗实录》，命史官删除父亲李吉甫在元和年间不善的事迹，遭到时人非议。

此前，回纥被黠戛斯击败，部族分散各地。会昌元年八月，回纥嗢没斯部到天德军请求内附。天德军使田牟、监军韦仲平贪求边功，想联合吐谷浑、沙陀、党项等部落，乘势出击。朝臣大多表示赞成，李德裕则竭力反对。他认为回纥在平定安史之乱中有功，如今嗢没斯率部来降，秋毫无犯，应予以安抚。即使需要出击的话，天德军兵力不足，一旦交战失利，城池必然陷落。如果他们骚扰边境，即可调动各道兵马讨伐。朝廷采纳了李德裕的建议，赐给嗢没斯部粮食二万斛。

会昌二年，回纥乌介可汗要求唐朝执送嗢没斯，并索要粮食、牛羊，被拒绝后又提出借取天德城。朝廷不许，乌介可汗便率军越过杷头峰（今山西包头附近），进犯大同、云州等地。李德裕详细地分析了回纥的情况，建议唐武宗出兵征讨。唐武宗遂征调许州、蔡州、汴州、滑州等六镇兵马，任命刘沔为回纥南面招讨使，张仲武为东面招讨使，李思忠（即嗢没斯）为西南面招讨使，并命三将在太原会师。

当时回纥大肆劫掠，党项、退浑等部落都不敢抵拒。李德裕制定了奇袭乌介可汗、夺回太和公主（唐宪宗之女，和亲公主）的策略，并推荐猛将石雄，唐武宗便将方略告诉刘沔。刘沔命石雄率三千骑兵为先锋，自己率大军继后。石雄在夜晚利用地道奇袭乌介可汗牙帐。乌介可汗身受重伤，仓皇而逃。刘沔也率大军赶到，在杀胡山大破回纥军。太和公主得以回朝，李德裕也因功进位司徒。

会昌三年，昭义节度使刘从谏病逝，其侄刘稹欲效仿河朔三镇，要求袭任节度使。李德裕力主出兵征讨，道：“泽潞镇深处国家内陆，与河朔三镇情况不同，不能让他们效仿河朔。刘从谏跋扈难制，多次胁迫朝廷，如今病死，又将兵权交给刘稹。如不讨伐泽潞，朝廷何以号令四方？如授刘稹为节度使，各藩镇必效仿其所为，从此天子威令何在？”他又道：“刘稹依仗的无非是河朔三镇，只要魏博、成德不出兵相助，必能平定刘稹。陛下可遣使告诉二镇，让他们出兵攻取山东三州。”唐武宗赞同。成德节度使王元逵、魏博节度使何弘敬果然奉诏出兵。

此前商议出兵征讨泽潞时，朝臣都上表劝谏，请朝廷同意刘稹袭任节度使，宰相之中也有认为不宜出兵的。李德裕道：“如果师出无功，一切罪责由我一人承担。”何弘敬、王元逵出兵后，李德裕又奏道：“贞元、太和年间，朝廷伐叛。各藩镇出兵方才离开边境，军饷便由国家负担，藩帅便因此逗留不进。有的甚至与叛军密谋，夺取一县或一栅寨，便以为大捷。陛下可晓谕何弘敬、王元逵，只让他们收取州郡，不要攻打县邑。”唐武宗采纳了他的建议。

当时晋绛行营节度使李彦佐行动迟缓，并请求朝廷增援。李德裕上奏武宗，认为李彦佐顾望不前，没有讨叛之意，并建议由石雄取代李彦佐。王元逵进击尧山，击败叛军援兵，李德裕则立即奏请武宗，加授王元逵同平章事，以激励众将。后来，昭义大将李丕投降官军，很多人都认为李丕是在诈降。李德裕道：“用兵已有半年，一直无人来降。现在李丕来降，不管是真是假，都必须给予优厚的赏赐，以鼓励再来投降的将士。只是不能把他安排到重要的地方。”

同年十二月，河东横水戍卒发生哗变，攻占太原，驱逐节度使李石，并推都将杨弁为首。唐武宗见刘稹尚未平定，河东又发生动乱，忧虑不已，便命中使马元贯到太原观察虚实，马元贯却接受杨弁的贿赂。会昌四年正月，马元贯回朝，称杨弁兵多将广，物资充足，却被李德裕诘问得哑口无言。李德裕奏道：“杨弁小贼，绝对不能宽恕。如朝廷两处用兵，国力不支，那么宁可先放过刘稹。”他请武宗下诏，命王逢与王元逵分道进兵，会于太原。河东监军吕义忠得知，当日便率榆社戍军，诛杀杨弁，平定叛乱。

同年闰七月，李德裕听取降将高文端的建议，筑夹城围困潞州，断绝固镇寨水道，并招降洺州守将王钊。八月，唐军先后收复邢州、磁州。昭义军将领郭谊、王协遂杀死刘稹，投降唐军以赎罪。李德裕对武宗道：“刘稹稚子，年幼无知，昭义军之所以敢对抗朝廷，郭谊等人才是罪魁祸首。现在势穷力孤，又杀死刘稹，以图赏赐。这种人若不诛除，何以惩治恶人？”武宗赞同，命石雄进入潞州，将郭谊、王协等人械送京城。

唐武宗继位后，破回纥，平泽潞，用兵五年。期间筹谋决策，选用将帅，征调兵力，起草诏令，指挥调度，全都由李德裕独自决断，其他宰相并无参与。泽潞之乱平定后，李德裕因功兼任太尉，进封卫国公，食邑三千户。