希腊是第一个拥有路轨运输的国家。至少二千年前已有马拉的车沿着轨道运行。
1804年，理查·特里维西克在英国威尔士发明了第一台能在铁轨上前进的蒸汽机车，但没赚到什么钱。
第一台取得成功的蒸汽机车是乔治·斯第芬孙在1829年建造的“火箭号”。
1820年代，英格兰的史托顿与达灵顿铁路成为第一条成功的蒸汽火车铁路。后来的利物浦与曼彻斯特铁路更显示了铁路的巨大发展潜力。
很快铁路便在英国和世界各地通行起来，且成为世界交通的领导者近一个世纪，直至飞机和汽车发明才减低了铁路的重要性。
高架电缆在1888年发明后，首条使用接触网供电的电气化铁路在1892年启用。
第二次世界大战后，以柴油和电力驱动的列车逐渐取代蒸汽推动的列车。1960年代起，多个国家均建置高速铁路。而货运铁路亦连接至港口，并与船运合作，以货柜运送大量货物以大大减低成本。
现时在全球236个国家和地区之中，有144个设有铁路运输（包括全世界最小的国家梵蒂冈在内），其中约90个国家和地区提供客运铁路服务。铁路依然是世界上载客量最高的交通工具，拥有无法被取代的地位。
中国第一条铁路吴淞铁路建于上海，由英国人兴建，后被清朝地方官员买回并拆毁。而正式使用的第一条铁路和蒸汽机车则是由李鸿章兴办的开滦公司煤矿所建。
铁路货物运输是现代运输主要方式之一，也是构成陆上货物运输的两个基本运输方式之一。它在整个运输领域中占有重要的地位，并发挥着愈来愈重要的作用。