洪武十三年，洪武四大案之一的胡英万爆发，胡惟庸是亳州定远人在朱元璋攻打河州时，投奔了朱元璋。
纵观胡惟庸，前期的仕途生涯。除了最初的两年之外，他有近十年的时间都在地方州县为官有着丰富的地方治理才能和经验。
而这也是胡惟庸，后来能够担任丞相长达七年之久的原因。可以这么说，胡惟庸是一个奸臣，但他却并非是一个庸臣。
朱元璋建立大名以后，沿袭了元朝的政治制度，设立中书省，并任命徐达为右丞相。
李善长为左丞相，而明朝以左为尊。所以李善长在朝中的地位排在了徐达之前，再加上徐达常年征战在外。
所以中枢省实际上就是李善长一个人的天下。与此同时，胡惟庸也被朱元璋调回京城，担任了太常四卿到洪武三年，五十六岁的李善长，由于年事已高，对处理，政务明显已经有些力不从心，所以他就推荐胡惟庸进入了中书省，担任参知政事一职，民初中枢省的机构设置是这样的，最高长官为左右丞相。
其次是平章政事，然后是左右丞再次就是参知政事。
由于右丞相徐达不在京城，平刚正氏一直在常玉春病逝以后意志空缺，所以胡惟庸进入中书省的时候，排在他前面的，实际上就只有三个人，分别是左丞相李善长左丞汪广阳和右丞阳县不久，李善长生请致死还乡。
朱元璋一时拿不定主意由谁来接替李善长。于是，他特地向刘伯温征求对中枢省中三个能够接任丞相人选的看法。
性格刚直的刘伯温对此毫不避讳。他认为，洋线虽然有能力，但是却没有丞相的气量。
汪广言的见识太过狭隘，还不如洋线。而胡惟庸就像是一匹烈马，让他做丞相，就好比是用弩马拉车不光拉不动，打明这辆大车搞不好，还有可能翻车。
两个月以后，在淮西集团的迫害下，洋县被朱元璋诛杀，中书省，就只剩下了汪广洋和胡惟庸。
两个人可供选择，经过反复的权衡以后，朱元璋终于决定放李善长归乡，然后让徐达担任左丞相胡。
广阳担做右丞相胡，惟庸则胜任为丞丞。李善长走了，杨县死了，徐达又有名无实，所以挡在胡惟庸前面呢就只剩下汪广阳了。
正如刘伯文所言，汪广洋在生令成相以后不久，他能力不足的缺点就逐渐暴露了出来。
而与汪广洋相反的是，胡惟庸事事处处都表现的异常积极很快。
朱元璋就觉得胡惟庸比汪广洋更适合做丞相。于是，在洪武六年正月，朱元璋以汪广洋无所见，白为由，将他贬到广东担任行省参政。
胡惟庸开始以左城的身份主持中书省到了七月，胡惟庸转正成为了右丞相。
至此，胡惟庸终于圆了他多年的丞相梦升任丞相以后的最初参段。
胡惟庸的确工作非常努力，办事也很小心谨慎，慢慢赢得了朱元璋的信任。
然而，随着胡惟庸彻底坐稳了相位，他开始变得骄横自专起来，朝中生杀非贬的事情。
胡惟庸有时候不上报。朱元璋就擅自做了决定，六部曾给中书省的奏折。
胡卫庸凡是看到不利于自己的，就私自扣下藏匿起来。
而朝中的一些政治投机分子也逐渐聚拢。在胡惟庸的周围，其中，御史陈宁和忠成屠结，更是成为了胡惟庸的心腹死党大权在握的胡惟庸，一方面大肆扩张势力，把哥哥的女儿嫁给了李善长的弟弟李存义的儿子，使狐狸两家成为了姻亲，另一方面打击排斥异己。
比如翰林院学士吴伯宗因为曾经得罪过，胡惟庸就被胡惟庸找借口贬到了凤阳，其他受胡惟庸迫害的朝官更是多达三十余人。
其实曹忠并非没有人发现胡惟庸的恶行，然而却都涉于他的权势，不敢去招惹。
不过有两个人却是例外，刘伯温和徐达二人不断向朱元璋汇报。
胡惟庸的恶劣行径让胡惟庸对两个人十分痛恨。洪武八年，刘伯温重病卧床。
胡惟英带着太医前去探望，随后刘伯温病情加重，返回老家，青天不久就去世了。
刘伯温之死在明史中是个谜团。虽然很多人认为他是被胡文庸下毒害死的，但这种可能性其实并不大。
之前介绍刘伯温的时候做过详细的分析，这里不再赘述。在刘伯温死后，胡惟庸开始对付徐达，他意图收买徐达的家人福寿让福寿谋刺徐达，结果福寿却并不买账，并向徐达告发了此事。
徐达因此躲过一劫。