安史之乱后，唐朝出现了藩镇割据的局面。这是因为参与平叛的各位将领，几乎都被唐朝政府授以节度使之名，并在内地广泛建立大军区，使节度使制度得以在更广大的范围内实行，这就为藩镇割据创造了条件。此外，参与叛乱的大部分将领、士兵依然存在，他们虽然投降了，但割据思想仍然根深蒂固，而朝廷没有力量消灭他们，就只能安抚他们，期望他们能改过自新。
基于这样的历史背景也就不难理解李吉甫为什么坚决主张削弱藩镇势力了。就在这个时候，海节度使李錡反叛之心已日益暴露，李吉甫便劝宪宗把他调迁至中央控制起来。但是，朝廷派使者去召调了三次，李锜都抗命不从，并于该年十月发兵攻掠州县，杀戮刺史、县令，公然叛乱。李吉甫主张坚决平定叛乱，并征调素为江南藩镇所畏惧的徐州兵和汴州兵参与平叛战争，借以震慑李锜叛军。果然，李锜部下兵众得知徐州、汴州皆兴师南下，军心大乱，牙将裴行立等人擒拿李锜而向朝廷投降，叛乱遂平。李锜叛乱的平定，首功当归于李吉甫的正确谋划。所以，叛乱平定后，李吉甫因功进爵为赵国公。
在策划平定李锜叛乱的同时，李吉甫还针对唐德宗朝以来因为姑息藩镇而导致某些藩镇节帅终身不易其地的弊病，进行了大胆而有力的改革。他利用拜相后的一年多时间，共调换了三十六个藩镇的节帅。这样，通过频繁地调动藩镇节帅，就使节度使难以长期有效地控制某个藩镇，其势力自然大为削弱，从而有利于维护中央集权。不过，吉甫无疑也给自己树立了一个强大的对立面。