始设于南北朝，至唐玄宗时，于翰林院之外别建学士院，选有文学的朝官充任翰林学士、入直内廷，批答表疏，应和文章，随时宣召撰拟文字。
德宗以后，时事多艰，翰林学士成为皇帝最亲近的顾问兼秘书官，经常值宿禁中，承命撰草任免将外、册立太子、宣布征伐或大赦等重要文告，有“内相”之称。其加知制诰衔者即等于暂代中书舍人，因之，充学士者经中书舍人，往往即能升任宰相。
唐初是翰林学士院的雏形阶段，从秦王府的文学馆逐渐发展到贞观初年的弘文馆，弘文馆学士的主要职掌有两个：一是与皇帝讲论经史文义，商讨时政，备参谋顾问；二是详正图籍，教授生徒。弘文馆学士无定制，皆以本官入值，未有翰林学士院之名号。唐高宗乾封以后，弘文馆学士始有“北门学士”之别称。
唐玄宗时，重用翰林学士。开元初年，玄宗把北门学士改为翰林待诏，与集贤院学士分掌制诏书敕。开元二十六年，玄宗又正式将翰林待诏改为翰林供奉，始别建学士院于翰林院之南。当时的翰林供奉以文学见长者充任，原为行政系统外的差遣，不计官阶，亦无官署，于学士院轮流值勤，以备皇帝不时宣诏，代为起草文件。撰拟诏敕仍归中书舍人，翰林学士只负责非正式的特别诏命，属于皇帝的私臣，即“止于应和诗赋文章而已”，“与枢密辄不预知”。
唐肃宗时，“肃宗在灵武凤翔事多，草创权宜济急，遂破旧章，翰林之中始掌书诏。”翰林学士院所掌诏敕，主要是皇帝的特殊文告，从皇帝处发出，称为“内制”，以区别于“外制”，即由中书舍人或知制诰所掌之正式诏敕。但此时翰林学士仍然是无官署，无官属，亦无俸给。
唐德宗时，翰林学士从皇帝私臣演变为“内相”。兴元元年(784年)九月，下诏令翰林学士开始“朝服班序”，加知制诰衔，如中书舍人例，即翰林学士代行中书舍人部分职权，大权在掌。此后，翰林学士的朝列班序名义上与诸司官知制诰同列，而实际上政治待遇与宰相相差无几。
唐宪宗时，元和元年(806年)，下诏决定由翰林院院长一人别敕承旨，或密受顾问，独召对敭，居北壁之东阁，号为承旨阁子，其屋栋别列名焉。宪宗元和三年(808年)，又重申罢中书草制，进一步巩固翰林学士地位。
经德宗、顺宗、宪宗三朝，翰林学士院遂成定制。翰林学士往往是独断专行，“内诏不宣，便令奉行”，时谓“内相”。他们掌制诰，代行中书之权，夺去了部分相权，从而削弱了中书省的中枢地位。[2]
唐代官制的另一个重要特点，就是翰林学士一职。
唐初于禁中置翰林院，为内廷供奉之所。但唐初翰林院中，除文词、经学之士外，还有卜、医、棋、术等各种专门伎艺人员。他们定期入值当班，待诏于院中，以备皇帝召见，陪伴天子下棋、作画、写字并为其占卜、治病。