1902年，奉天总督赵尔巽兴办奉天大学堂。1921年初，奉天教育厅长谢荫昌向时任东三省巡阅使张作霖建议，为了使东北富强，不受外人侵略，必须兴办大学教育，培养各方面人才。[71] 同年10月29日，奉天省议会正式向奉天省长公署提交了“联合吉黑两省创办东北大学”的议案。[72] 1922年春，东北大学筹备委员会成立，以沈阳高等师范学校（前身是奉天大学堂）为基础开办理、工两科，以沈阳文学专门学校（1905年成立）为基础开办文、法两科。[71] 1923年4月26日，奉天省公署正式启用了东北大学的校印。同年10月24日，东北大学迎来了其首届开学典礼。[73] 东北大学举行首届开学典礼
1928年8月，主政东北的张学良将军兼任东北大学校长。在他的领导下，学校明确了东北大学的办学宗旨、目的：“研究高深学术，培养专门人才，应社会之需要，谋文化之发展”。[72] 同年9月，东北大学创建了全国高校首个建筑系。梁思成、林徽因留美归来接受东北大学的聘请，共同执教东北大学建筑系。[73]
1929年，张学良设立奖项，征集东北大学的新校徽。在众多设计作品中，林徽因教授设计的“白山黑水”校徽脱颖而出。[73] 1930年，冯简在东北大学执教并兼任中央广播事业管理处总工程师，负责主持在南京建设当时远东功率最大的75千瓦广播电台。[72] 林徽因设计的“白山黑水”校徽
1931年，九一八事变后，东北大学校园被日军占领，学校被迫成为近代中国第一所流亡大学。1931年9月26日，大部分师生迁往北平，教授们组织了“教授代表会”以推动复校事宜，学生们成立了“东大临时学生会”以协助教授们的工作。10月18日，东北大学借用北平南兵马司的旧税务监督公署作为校舍，勉强复课。由于条件有限，部分系科停办，同时增设了边疆政治系、家政系等实用学科。[73] [72]