大藏省的历史可以追述到日本古代律令制的八大省，大藏省当时主要掌管了日本朝廷的大部分财政制度，包括钱币，金银，贡物，度量衡和民间货物价格的恒定等，但是税收制度则由民部省管理。1869年（明治二年），日本开始了二官六省制度，为了加强民政和财政的管理把民部省合并进入了重新设立的大藏省。在此后的几年里，大藏省经历短暂的改革波动，1885年末，日本开始实行内阁制度，大藏省成为负责税收，国债，印钞，银行监管等重要职务的行政官厅，第一任旧日本宪法下的大藏大臣为后来的内阁总理大臣松方正义。
在20世纪90年代，大藏省暴露出了多件和其相关的丑闻。2001年在中央省厅改革后，为了消减其过于庞大的执政影响力，大藏省被分解成为了财务省和金融厅（主要负责银行监管）。
根据《大藏省设置法》规定，其主要职权如下：
(1) 负责编制国家预算草案，管理预算开支；
(2) 制定税收政策和税收具体方案；
(3) 制定财政投资计划，发行国债，管理国库、国有财产，发行纸币；
(4) 监督国家各级金融机构，制定对外汇兑政策等；
(5) 制定国家财政政策。
大藏省不仅在金融、财政及税收上起主导作用，而且在制定国家财政政策上也占有重要地位。它还通过分配经费、审批各省的年度预算方案等途径，牵制和影响各省的活动。大藏省与日本垄断财团有密切联系，在制定国家财政、金融政策及资金使用上都受到财界的很大影响。
大藏省的主要负责人为大藏大臣，由内阁总理大臣任命，其主要职责是：主持省内一切事务，向国会作财政报告，编制年度预算提交国会审查、核定，并负责制定和协调经济政策，监督财政支付。大藏大臣是内阁中重要的大臣，是内阁总理大臣管理财政方面的头号助手。
大藏省设两名政务次官和一名事务次官协助大臣工作。
政务次官一般从国会议员中任命，参与制定政策和实施计划。大藏省有关财政方面的重要政策和活动，均由政务次官负责与国会、政党联系。在大藏大臣出访或生病时指定一名政务次官代行其职权。
事务次官辅助大藏大臣处理省内的事务，监督一切所属部局和机关的工作。
大藏省内设大臣官房和主计局、主税局、关税局、理财局、证券局、银行局、国际金融局以及造币局、印刷局等9个局。
大臣官房是综合管理大藏省一般行政事务的机关，管理省内人事、劳务、财会、宣传、综合政策计划的调查及调整省内各局之间关系，负责保管大臣印鉴，审查管理公文函件，并对地方财务局实行综合监督，负责有关国内外财政经济的统计资料和出版这方面的刊物等工作。
主计局是大藏省核心机构之一，负责拟定和执行国家预算。管理国库储备。起草有关财政、会计制度的法案、调查汇总国内财政制度执行情况、国外财政制度的资料以及有关担任“特别职务的国家公务员”的薪金、津贴、国家公务员互助等工作。