日本武士刀都是用手工制造的，有上千年的历史。中国文化对日本刀剑的影响实际上从汉代就开始了，但日本武士刀被一致公认是脱胎于唐代的“唐大刀”。最初日本人按照唐大刀的样式直接仿制刀具，仿制品就叫作“唐样大刀”。不过，在仿制过程中，日本人不断地加以改进，逐渐形成了具有日本风格的刀剑体系。唐大刀的刀身是直的，而形成风格以后的日本武士刀的刀身具有一定的弧度。[6]
武士刀的形态，从平安后期，经过镰仓、南北朝、室町、安土桃山、江戸初期，中期，幕末的推移，出现了很大的变化。主要表现为从直刀到弯刀的的转变，直刀适合扎刺，弯刀适宜挥斩，之所以出现这样的转变主要是战斗样式的变迁造成的，从平安末期开始，为适合马上作战，刀具不断被改良。
日本刀的制作，从平安后期到镰仓时代，出现了大和国，备前国，山城国，相模国，美浓国五大中心、各地名匠辈出。
日本古坟时代中期（200年－771年）已经出现铁制刀剑，当时的原料以炼铁为主。譬如崎玉具的稻荷山古坟和岛根具的造山古坟都有铁剑出土。从稻荷山古坟出土的“金错铭铁剑”制作于公元471年，是为纪念服侍雄略天皇的功绩而作，刀上刻有115个汉字。这个时代的刀剑多已銹蚀。
平安时代末期之前的刀剑被归类为上古刀，刀形有别于常见的日本刀，或为直刃，或带双锋。上古刀极为罕见，是重要的考古材料。
日本刀源自于中国的环首刀，五六世纪大陆和朝鲜引入横刀的钢铁锻造工艺是日本铁刀锻造工艺起源[1] ，同时结北海道阿依努人的蕨手刀，属于日本原创，其发展历程：上古直刃刀[2] ——蕨手刀（弥生时代末，古坟时代-平安时代初期）——毛拔形蕨手刀——毛拔形太刀——太刀——太刀，打刀，肋差，短刀。
遗留下来的平安时代初期的刀剑数量相当稀少，其原料改为略经粗炼过的铣铁，外观则依旧保持棒形。学术于日本刀风格的变迁，以及日本是何时怎样创造出独特的弯刀等疑问，还未能充分说明。普遍认为，平安时代中期（10世纪左右）承平之乱和天庆之乱发生以后，直刀逐渐转变为弯刀。同时，制作工艺也由平造转为类似菱形的镐造刀。制作工艺的改进使日本刀更加坚固而且锋利。这一过渡期的典型的样式是刀身刀把为整块铁打制而成的“毛拔形大刀”以及带有锋两刃构造并有弯曲刀反的“小乌丸”型刀，毛拔形大刀以伊势神宫所藏传为藤原秀乡使用过的一把最为著名。
早在中国唐代时期，中国的冶炼锻造技术和经济得到空前发展，造价高昂的唐刀传入本已经得到汉刀冶炼技艺的日本。当日本天皇看到性能优越做工精湛的唐刀时，惊叹地说：只有中原才能铸出如此精良的刀剑。日本随即学习唐刀的锻造之法，并加以改进，就成为了世界名刀之一的日本刀。[5] 唐朝横刀