在五院制下，行政院是国民政府最高行政机关。行政院由行政院正副院长和所属各部、各委员会组成。行政院下设部和委员会，分管各项行政事务。行政院成立时，除办事机构秘书处、政务处以外，设有内政、外交、军政、财政、农矿、工商、交通、铁道、教育、卫生10个部和蒙藏、侨务、禁烟、建设4个委员会。
1928年10月25日，行政院正式成立，第一任院长是谭延闿。
1929年1月11日，增设振（赈）灾委员会（后改称振务委员会）。4月12日，裁撤军政部海军署，增设海军部。
1930年11月17日，国民党三届四中全会决定调整行政院机构，将农矿部与工商部合并为实业部，卫生部改为卫生署并入内政部，建设委员会划归国民政府直辖。此后，行政院机构变化不大。
到抗日战争全面爆发时，行政院共有9个部和4个委员会。行政院各部设部长、政务次长、常务次长各1人，部长综理部务，次长协助部长工作。部的下面按照不同情况设厅、署、司、处，置秘书、参事、厅长、署长、司长、处长、科长、科员、技监、技士、技佐、编审、视察、督学等各类人员。行政院各委员会设委员长、副委员长各1人，委员和常务委员若干人，委员长在副委员长协助下领导和管理本会工作。会的下面分设处、科，置秘书、参事、处长、科长、科员等各类人员。蒙藏、侨务、振务委员会还在地方设立了一些派出机构。[2]
五院制渊源于孙中山的“五权宪法”理论。
早在17世纪，英国的洛克在卢梭天赋人权思想的基础上，就提出了分权思想，即把国家的权力一分为二。第一种权力是立法权，实现这个权力的机关是议会，它代表纳税人的利益。第二种权力是行政权，也叫执行权，实现这个权力的是政府（君主)。洛克的分权思想是立宪君主制思想的核心。到了18世纪，法国的启蒙思想家孟德斯鸠在洛克两权分立的基础上，又增了司法权，由审判机关独立行使，于是产生了立法、司法、行政三权分立学说。
孙中山吸取了西方资产阶级启蒙思想家的三权分立学说，在此基础上，加上我国古代社会早已有之的考试制度（科举）及监察制度（御史）之精神，演绎而成考试权及监察权;并融会古今中外学说为一体，创立了“五权宪法”学说，将政府之治权分为五权，并建立了相应的五院。这样，在实现国家的治权时，就形成了各种权力之间的相互制衡，以防止某一权力的过度集中，过度膨胀，而发展至专断独行的程度。[1]
其组织以行政各部、署、委构成。院部设行政院会议、秘书处、政务处等。
行政院设院长、副院长各1人，由国民党中央执行委员会选任。但1943年9月修改《中华民国国民政府组织法》后，改为由国民政府主席于国民政府委员中提请中执会选任，其任期与国民政府委员同，行政院院长总揽全国行政，在政府中其职务非常重要。行政院院长之权力，在国民党“因人设事”的制度中，与国民政府主席间时有消长。依1931年12月之《中华民国国民政府组织法》确定主席不负实际政治责任，院长为实际负责者。1943年9月《修正国民政府组织法》，规定院长对主席负责，院长成为主席的实际僚属，其地位显然降低，但如果主席兼行政院长（蒋介石有过此事)，一身二任，院长的客观地位似又与主席同列。