建德六年（574年），孔颖达出生。[4]
581年，孔颖达8岁，隋文帝杨坚建立隋朝。隋文帝初年颇重儒术，“超抉奇隽，厚赏诸儒”，自京师达于四方，大兴学校，广置生徒。“齐鲁赵魏，学者尤多，负笈追师，不远千里，讲诵之声，道路不绝”，被史书称为：“中州儒雅之盛，自汉魏以来，一时而已！”孔颖达也在这个时候走上了正规学习的轨道。因悟性特佳而“日诵千余言，暗记《三礼义宗》”，年长一些后，尤其明悉服虔所注《左传》，郑玄所注《尚书》《礼记》，所笺《毛诗》，王弼注《周易》，还兼善历算之学，亦长于解属文。[5] 孔颖达
孔颖达同郡人刘焯名重海内，孔颖达造访时，刘焯一开始不以礼相待，但一经孔颖达向他执经问难、发表意见，刘焯见其答难问对，出人意表，能发人之所未发，于是改容敬之。孔颖达坚决辞归，刘焯坚决要留孔颖达，孔颖达谢绝了。回家之后，孔颖达以教育授人知识为务。[6]
大业初年，孔颖达应举明经，对策高第，授任河内郡学博士。后来，隋炀帝广征天下宿儒，集中于洛阳，令国子秘书学士与天下大儒辨论，门下省纳言（侍中）杨达评第高下，以颖达为最。由于当时孔颖达年少，“先辈宿儒”对比不上他而心怀羞耻，于是暗中派遣刺客欲加害孔颖达，幸得杨玄感将孔颖达藏于府中，才使孔颖达幸免于难。之后，孔颖达补官位空缺而成为太学助教。因为隋末战乱而避乱于武牢，唐太宗平定王世充时，引孔颖达为秦府文学馆学士。[7][4][8]
武德九年（626年），孔颖达被擢授国子博士。贞观初年，孔颖达被封为曲阜县男，转任给事中。当时唐太宗刚刚即位，留心各种政务，颖达多次进忠言因而备受亲待。唐太宗曾问孔颖达说："《论语》说：'以能问于不能，以多问于寡，有若无，实若虚。'是什么意思？"孔颖达回答道："圣人设教，欲人谦光。己虽有能，不自矜大，仍就不能之人求访能事。己之才艺虽多，犹以为少，仍就寡少之人更求所益。己之虽有，其状若无。己之虽实，其容若虚。非唯匹庶，帝王之德，亦当如此。夫帝王内蕴神明，外须玄默，使深不可测，度不可知。《易》称'以蒙养正，以明夷莅众'，若其位居尊极，炫耀聪明，以才凌人，饰非拒谏，则上下情隔，君臣道乖。自古灭亡，莫不由此也。"唐太宗对孔颖达的回答十分赞许。[9]