大众文学起源于日本古典的通俗文学。明治维新后近代文学中的讲谈读物（说评书），具有大众文学的倾向。日本翻译欧洲的侦探小说和江户题材的小说，也为后起的大众文学作了准备。但是，大众文学并不是传统文学的继续,它是现代资本主义的产物。20年代初期,随着报纸、刊物、出版、广播等宣传工具的急速发展，以及经济萧条的不断袭击，一种大量倾销的商品形式的文学快速发展起来。1925年讲谈社出版的《国王》杂志，刊载以大众娱乐为目的的小说，发行量达到七、八十万份的空前纪录。同年《大众文艺》杂志创刊。1927年平凡社发行《现代大众文学全集》。当时日本主要报纸发行量已经突破 100万份，为连载大众小说提供了最好的园地。
从20年代中期至30年代中期，是大众文学的勃兴阶段。大众文学作家一方面运用欧洲现代文学的表现手法，一方面着力于写现代题材和传奇题材，使这种新兴的文学飞速地扩大了市场。白井乔二(1889～ )于1924至1927年在《报知新闻》上发表他的描写日本两大封建贵族70年间□智斗争的连载小说《富士黑影》，风靡一时。中里介山（1885～1944）自1919年起发表的历史题材的传奇小说《大菩萨岭》，在报纸上连载23年。大佛次郎(1897～1973)的新闻小说《晴天阴天》1926年在《大阪朝日新闻》连载。1927年在《东京日日新闻》连载他的传奇小说《赤穗浪士》，以欧洲文学的技巧，扩大了大众文学的范围。吉川英治(1892～1962)也把欧洲现代文学的技巧,运用于传奇小说的创作,产生了结构庞大、情节曲折的长篇小说。1926年在《大阪每日新闻》连载的《鸣门秘帖》,描绘剑术传奇故事,赢得了市场。长谷川伸和子母泽宽合写的以赌徒、流浪汉为题材的小说，也在20年代后期流行起来。江户川乱步、小酒井不木等还开拓了日本侦探小说的道路。
菊池宽、久米正雄、吉屋信子、中村武罗夫、加藤武雄等，在20年代中期先后由纯文学走向通俗文学创作的道路。他们以当时发行量很大的报刊为阵地，发表现代题材的小说。菊池宽继《珍珠夫人》之后，以《新珠》、
《再和我接个吻》、《红天鹅》、《结婚二重奏》、《贞操问答》等言情小说，成为流行的大众文学作家。
在日本法西斯日益猖獗时，大众文学也出现了呼应军国主义的倾向。编辑出身的大众小说家直木三十五期(1891～1934)于1932年发表《法西斯宣言》，并在报上连载《日本的战□》，公然支持法西斯。1937年侵华战争和1941年太平洋战争爆发后，大众文学的军国主义色彩日趋浓重，一部分作家充当军队报道员。吉川英治于1935至1939年在《朝日新闻》上连载的小说《宫本武藏》，表达了“从乱世的凶器转变为保卫和平的剑”的思想。这一时期，不利于军国主义国策的作品受到排斥，连推理小说也受到限制。大众文学的某些作家改写历史小说。