日本足球协会在1921年正式成立，日本足球协会的成立也意味着足球运动正式走进大众。日本足球首次打进国际赛是当年的柏林奥运会，日本当时由一群学院生组队参赛，柏林奥运会也是日本迈进国际足球舞台的第一步。

1960年，足球在日本更受欢迎和有更好的组织。东京在1964年主办了奥运会，当时的日本也参加了在奥运会的足球竞赛。日本当时成功打进複赛，但最后却不敌阿根廷。

1965年是日本足球的另一个旅程碑，有当时来自5个地区的8家俱乐部组成了日本足球联赛。当时所有的球员都是业余的球员，球队更是由商业公司赞助组成的，这些商家分别是日LI公司、三LING公司和丰TIAN公司。

日本足球在1968年的墨西哥奥林匹克运动会取得了最佳的成就，他们在当时的足球竞赛赢得了铜牌。另外，日本球员釜本邦茂也创下了记录，他在1969年至1985年代表日本出战期间一共攻进了202个进球。儘管如此，日本足球依然不能成为日本人的最爱，甚至在国际足联的竞赛也没有突破。

但是来到了1998年以后，日本终于历史性首次打进了国际足联所举办的世界盃决赛圈。一年之后，由小野伸二带领的日本青年队成功在国际足联世界青年锦标赛赢得了亚军。在亚洲足球的竞争舞台，日本的表现更上一层楼，他们分别在2000年和2004年两度赢得了亚洲足球竞赛最高的荣誉－亚洲杯。日本在2002年韩国/日本世界盃决赛圈也成功历史性打进了16强的竞赛。

在球员方面，日本足球培养出越来越多的球星。现在效力义大利足球俱乐部的中田英寿就是一个成功的例子。继中田英寿之后，日本球员如城彰二、Akihiro Nishizawa和名波浩都前后进军西班牙和义大利足球联赛。现在，在荷兰足球联赛效力飞燕诺俱乐部小野伸二和在义大利效力雷吉纳俱乐部的中村俊辅都是球队不可缺少的球员。

2016年1月，田岛幸三当选日本足协主席

2014年5月3日，日本足协发布官方声明，对于在可能取代卡达承办2022年世界盃赛一事上所造成的“误会”，公开向卡达足协致歉。

日本足协出面澄清

日本足协表示：“大仁邦弥的想法没有被正确的传达和解读，他并不是真的想要得到世界盃的申办资格。当时的事情给卡达足协留下了非常坏的印象。”