胡惟庸投奔朱元璋后，在李善长手下做事，为人精明，以办事干练著称。汪广祥被贬后，经李善长推荐任宰相。他在朝中拉拢亲信、排除异己，贪贿好利、恣意弄权，引起了朱元璋的不满和猜疑，遂下决心除掉他。
下手别太狠，与人方便即与己方便
1380年，御史中丞涂节告发胡惟庸意欲谋反，这对朱元璋来说，是个难得的机会，于是立即下令逮捕了胡惟庸，给胡扣上“谋反”罪名，将他处决，并灭其全族。特别阴险的是，朱元璋还捏造罪证，把告发者涂节也一同斩首，为的是杀人灭口。
李善长在随朱元璋征战中，以多谋善断著称。他随军参谋策划、组织指挥作战和后勤供应，屡建奇勋。开国初，组织制定法规制度、宗庙礼仪，与朱元璋关系如鱼水一般，朱元璋将李比之为汉初萧何，称他为“功臣之首”，命他为开国后的首任丞相。
朱元璋一旦登上天子之位，就对李的态度大变。李善长仍按往常惯例，帮助朱元璋处理政事，过去被朱称赞为“处事果断”，现在则说他“独断专行”，过去朱特许李对疑难大事先处理后奏报，称赞他“为朕分忧”，现在则说他“目无皇上”。朱元璋对李善长功高权大产生了疑忌之心。但考虑到李善长功高望重，轻举妄动恐生不测之忧，就采取又打又拉，伺机清除的伎俩。