在初期，罗马字的主要职能是满足东西方交流的需要。19世纪在日本兴起的文字改革运动讨论了以罗马字代替汉字和假名的可行性。经过讨论与发展，最终形成罗马字表记统一标准。由于文字改革的不成功，罗马字的职能主要是标注假名和汉字的发音以及提供日语文本键入方案。
16世纪，欧洲来日的传教士因传教需要，使用罗马字表记日语。
1591年，最早的日语罗马字表记出现在使用古葡萄牙式罗马字出版的《サントスの御作業の内抜書》(Santos no Gosagveo no uchi Nuqigaqi)中。现将古葡萄牙式罗马字记载如下[2]：（注：本表列出前6行供参考。）
17世纪，研究荷兰学术的学者因研究需要，荷兰式罗马字产生。下表列出前6行供参考[3]：
该系统与后来的日本式罗马字相似，每行尝试以同一辅音的方针设计。
后来，西欧各国为探寻东方形式，德语式、法语式等各种系统应运而生。[3]
1867年，詹姆斯·柯蒂斯·赫本(James Curtis Hepburn)设计了平文式罗马字，他以英文发音作为依据设计了此套罗马字系统。（请参考下一节中的平文式罗马字与参考发音）
1884年，罗马字会创立，次年发布平文式罗马字。
1885年8月，田中馆爱橘在《理学协会杂志》上发表了他设计的日本式罗马字，他按照音韵学理论设计了此套罗马字系统。他指出，平文式罗马字不符合日语性质。他在该杂志的第17号的《发音考》文章中提到：标记语音细微的差别并非实用文字的职能。（请注意，当时的日本有使用罗马字替代假名和汉字的风气）
1902年，文部省设立国语调查委员会，以调查假名的罗马字的优缺点为方针。有关文字改革的讨论兴起。
1908年，部分官员决议以平文式罗马字为标准。
1910年~1930年，日本式罗马字陆续在各方面被采用。
1930年11月，文部省设立临时罗马字调查会，旨在解决二者使用问题。
1937年9月21日，《内阁训令第3号》颁布，训令式罗马字产生。这套罗马字系统以日本式罗马字和平文式罗马字为依据。[4]
第二次世界大战后，至1952年4月28日《旧金山和约》生效为止，日本处于以美军为首的同盟军的占领下，决策听命于驻日盟军最高司令部(GHQ)。1945年9月3日，驻日盟军最高司令部发布对日第二号指令，其第二部分第十七款命令日本政府在所有城镇、乡村的公路入口及铁路站台标示牌上使用平文式罗马字。平文式罗马字再次兴起，造成罗马字的使用混乱。[5]
1946年，《内阁告示第33号》颁布，对现代假名的使用（现代仮名遣い）作出规定。
1954年，《内阁告示第1号》颁布，1937年颁布的《内阁训令第3号》被废止。[6]
1986年，《内阁告示第1号》颁布，对现代假名的使用（现代仮名遣い）再次作出规定，同时废止1946年的《内阁告示第33号》。[7]
1989年，国际标准化组织（ISO）采用了训令式罗马字作为标准(ISO 3602)。[8]