毕业于中国政法大学研究生院，获行政法学硕士学位。[19]
1990年起，任杭州大学法律系副主任、副教授；
1992年起，任杭州大学法学院常务副院长兼法律系主任、教授；
1995年起，任杭州大学副校长；1996年起，兼杭州大学法学院院长；
1998年，同时任杭州大学党委常委；
1998年9月-2007年10月，任浙江大学党委常委、副校长，主持行政工作，主管人事、财务和外事工作；
2001年起，担任浙江大学宪法与行政法专业博士生导师；
2007年10月任浙江工商大学校长。
2010年12月28日任国家行政学院法学部主任。 因工作调动，不再担任浙江工商大学校长，党委委员、副书记职务。
现任中央党校（国家行政学院）一级教授、博士生导师，专家工作室领衔专家。[1]
2011年3月28日在中央政治局讲解《推进依法行政和弘扬社会主义法治精神》。[7]
长期从事宪法与行政法研究，自1990年以来，曾到美国斯坦福大学、英国爱丁堡大学、澳大利亚西澳大学、德国基尔大学、法国马赛大学等作过访问学者或学术交流。自1987年来，共出版《行政法学》、《比较行政法——20国行政法评述》等著作（含合著）100余部[5] ，在《中国法学》、《法学研究》等刊物上发表论文100余篇[8] 。国家重点学科“宪法与行政法”学科带头人。
2020年11月9日，经中国法学会有关专业委员会等部门推荐并征求本人同意，决定聘任胡建淼为最高人民检察院专家咨询委员，聘期为五年。[9]
长期致力于公法、行政法学的研究。[2]
在法学理论研究上，率先倡导与推进“动态行政法”与“中观行政法”理论；在诸如“行政强制”、“行政滥用职权”与“其他行政处罚”等许多前沿问题的研究上，在全国处于领先地位。
胡建淼在法学研究上的最重要的成就之一在于形成和强调了“动态行政法”与“中观行政法”理论。1.动态行政法理论。中国以前的行政法学理论，从基本概念到内容，大多从静态角度论述。如在概念上，用静态的“行政机关”概念而不用动态的“行政主体”概念；在内容上，重在限于论述“制度”而不是重在论述“原理”。而他的行政法学体系，从概念到内容都从动态角度出发，重在研究原理，而不是制度。2.中观行政法理论。他把中国的行政法学理论分为三种，即宏观理论、微观理论与中观理论。宏观理论是从宪政角度出发探讨各种行政法学问题，这种理论基点高，但对行政与司法实践无直接指导意义；微观理论是从法规条文角度出发阐述各种行政法学问题，这种理论虽对办案有直接的指导意义，但基点不高，容易滑向注释法学。中观理论正好介于两者之间，以一种基本原理来直接指导行政立法、行政执法与行政司法，高度体现了实践性与理论性的结合。中国行政法学的现状是两端（宏观与微观）发达而中间（中观）虚空，而他的理论研究及所形成的理论体系正好弥补了这一点。