1874年英商怡和洋行，以上海商務昌盛，又離吳淞江口太遠，船隻進出不便為由，向我政府申請核准興建上海到吳淞江口約九公里之鐵路。1876年5月10日舉行通車典禮。不料才開車一個多月，有一士兵行走軌道被撞斃。這可是人命事關重要，經交涉後，則由清政府將全部財產購回。購回後隔年即被拆毀，結束中國最早一條鐵路。

台灣鐵路的修築應可說很早。在淞滬鐵路拆毀時，福建巡撫兼臺灣學政丁日昌，即以鐵路材料廢棄可惜，奏請將材料移往台灣興建鐵路。政府原已照准，卻因款項無著落而作罷。後台灣巡撫劉銘傳，以便於建省、利於海防，再奏請興建鐵路。清廷認為在內地興建多懷疑慮，台灣為孤懸海島，不關重要，奏請核准。因此臺灣則開始從事籌備，自酬款項。在台北設立臺灣鐵路商務總局。1887年6月9日在台北大稻埕興工，先興建至基隆28.6公里之一段。歷經4年在1891年10月20日才完工。在興建修築中，以台灣地方狹小，採用3呎6吋（1.067公尺）之軌距，從此也成為臺灣鐵路之軌距。這是臺灣有鐵路之開始。

不久也同時興建台北往南到新竹之一段，計有78公里，並在1893年10月30日通車。接著原本預定繼續修築到台中台南。卻因劉銘傳巡撫去職，又籌款困難而停止進行。不多久發生中日戰爭，我國戰敗，以致台灣被割讓給日本。1895年日本據台後，即首先鑄建全島鐵路。1908年4月20日完成由新竹經台中到打狗(高雄)之山線鐵路，並在台中公園由日本閑院宮載仁親王主持通車典禮。接著繼續修築基隆至蘇澳、高雄至屏東、平溪線、集集線和花蓮台東間之鐵路(軌距為2呎半＝0.762公尺)。至日本發動太平洋戰爭期間，可說臺灣鐵路在路線及設備上都已具備規模。

在太平洋戰爭期間，臺灣鐵路無法正常保養，又受到盟國空軍轟炸，設備頗多破壞。民國34年台灣光復後，鐵路由台灣省行政長官公署接收。接收之初鐵道枕木腐朽、鋼軌磨損過甚、橋樑被破壞、機車車廂損壞。然臺灣鐵路局卻排除萬難，一一去克服修復。可真是艱鉅不容易之大工程。

除縱貫線外，也新建了數條支線(內灣支線、東勢支線、深澳支線)，區域性也有糖業、林業、鹽業、礦業之鐵路。甚至更偏遠地區之人力台車。雖然到了50年代後，這些小火車因不符合時代發展之需要，陸續廢止。然而就此經清朝、日據時期和光復後我政府建立之臺灣鐵路交通網，卻成為社會繁榮進步發展功不可歿之重要建設。