小学校与公学校的最大不同在于法律上：“常用国语（日语）者的初等普通教育，依据小学校令”。也就是入学小学校资格必须为日籍学童或通日语的台籍学童。不过一般来说，绝大部分为前者。
1898年小学校令明定小学校的就学资格为8岁以上，14岁以下的日籍儿童、并将本来的四年制教育延伸至六年，并设两年的寻常高等小学校（初中）。除此，该规定还明定此小学校应教授的科目（作文、读书、习字、算术、唱歌与体操）、师资与例假日，除了某些部分因应台湾地区特殊情形外，小学校所有科目与师资等等规定，一律与日本本土寻常小学校完全相同。
因为日籍学童人数较少，总督府也较为重视，日籍学童的小学校教学率达九成五以上，远比台籍学童就读公学校的七成一高，除此，也因为学习制度较能连接，小学校考上寻常高等小学校的比率远高于公学校毕业生
注意：有关“小学校”的其他意思，请参看小学
小学校（或称寻常小学校）与其他同时间台湾所设儿童义务教育学校最大不同的是，小学校为专供日籍学童所念，科目与日本本土一般的寻常小学校完全相同。
战前，小学校数目15校，学童人数达20000多人，日童就学率则达99.62%。
1895年，日本开始于台湾的统治。隔年，1896年，”台湾总督府”辖下之“学务部”以普及日语为目的，于6月公布“国语传习所规定”，并在同年9月总督府公布“国语学校规则”。在此两规则下，”台湾总督府”在各地设置14所国语传习所。其中，这规则里面所称的“国语”指的是日本语。
因为国语传习所设立以普及日语与台湾学童为主，因此，针对在台的日籍学童，“台湾总督府”特别成立国语传习所的“小学分教场”或相关机构传授义务教育。其科目与日本本土完全相同，而学制定为四年。当时，日本本土尚未全面实施义务教育，因此台湾该教育制度的实施，多少具有实验性。
1898年“台湾总督府”见国语传习所成效斐然，针对日籍学生与台籍学生于1898年8月16日再行发布“台湾公立小学校规则”、“台湾公立小学校官制”、“小学校令”、“台湾公立公学校规则”、“台湾公立公学校官制”与“公学校令”。其中，这些法令明定以中央或地方的经费开办小学校等初等教育学校。
1910年2月26日修正小学校规则，将小学校视为义务教育，采取强制入学。1919年与1922年台湾教育令两度修正小学校规则，重点为采取内地共学，小学校课程至公学校课程完全相同。
1941年3月，台湾教育令再度修正，将小学校、蕃人公学校与公学校一律改称为国民学校，至此，以日籍儿童为施予对象小学校学制不再施行。不过，1941年后的台湾小学校，在实务运作上，仍与当地公学校有所差别。直到1945年二战后，该小学校学制才因日据时代结束而正式消失。