真正意义上的足球运动进入日本是在1873年，当时来自东京海军学校的英国海军官员道戈拉斯同日本人进行了一场类似于现代足球模式的比赛。而日本统一的全国足协大日本蹴球协会（现日本足球协会）直到1921年才出现，日本足协的成立也意味着足球运动正式走近日本大众。[1]
日本队的第一场国际比赛，是在1917年举办的第三届远东运动会，东京高等师范学校组成的日本队0-5败给了中国代表队。[3] 进入昭和年代（1926年）以后，日本以大学生为中心的足球水平得到迅猛提升。1929年，日本足球协会加入国际足球联合会。[5]
日本队的世界杯历史可以追溯至1930年第一届乌拉圭世界杯，与往后举办的世界杯比赛不同，该届世界杯并没有设立预选赛，所有国际足联会员国都被邀请参加该届赛事，于1929年加入国际足联的日本足球协会也收到了邀请，但受美国经济危机影响，日本国内经济不景，社会形势动荡，同其他亚洲球队一样，日本足协并没有派出代表队参赛。[4] [6] 1936年，日本队第一次参加在柏林举办的奥运会足球赛，并以3-2的比分击败了欧洲球队瑞典队。[7] 1938年法国世界杯，日本队报名参赛并进入预选赛阶段，首战对阵荷属东印度队（现印度尼西亚），但日本队因日本国内正发动对外战争而主动退出比赛，荷属东印度自动晋级。[8] [9] 第二次世界大战结束后世界杯恢复比赛，此时日本被国际足联除名无缘参加世界杯。[10] 1950年巴西世界杯结束后日本重新加入国际足联，但日本足坛遭到极大破坏，直至20世纪60年代才逐渐恢复。[1]