成语取义泰山（五岳之首）与北斗星（夜空中显要星群）的崇高地位，喻指在特定领域具有权威地位或深远影响力的人物。其典源可追溯至《新唐书·韩愈传赞》记载："自愈没，其言大行，学者仰之如泰山北斗云"，反映韩愈在古文运动中的历史地位[1] 。
作为联合式成语，"泰山北斗"由两个名词性语素并列构成，兼具形容词性质。在语句中既可独立作主语（如"蔡元培先生是学术界的泰山北斗"），也可充当宾语（如"众人视其为泰山北斗"）[1] 。
清代学者恽敬在《答姚秋农书》中撰写孔子庙楹联时，使用"泰山北斗，景星庆云"的组合句式。近代作家罗普在《东欧女豪杰》第三回通过人物对话称"藓菲亚大姊真是我们的泰山北斗"，展现该成语在口语化表达中的适用性。
与"德高望重"侧重品德修为不同，本成语更强调社会公认的权威地位。"众望所归"虽语义相近，但多用于事件结果而非人物评价[1] 。宋代以后该成语逐渐从特指学术权威扩展至各领域杰出人物。