明治33年(1900年)5月15日台南停車場完工，同年11月29日開始營業，同日起台南至打狗(今高雄港站)間鐵路也竣工通車，台南站第一代站房係完成於開業同時。由於台南驛發展迅速，而當時站房為磚木造瓦頂站房，而且空間狹隘設備簡陋，但由於施工快速簡單，此型式建築在當時係相當普遍的，因此於明治38年(1905年)曾將車站玄關部份擴建，但站體仍為木造結構。

　昭和2年(1927年)台南-高雄(今高雄港)間正進行雙軌化工程，於昭和8年(1933年)完工通車，後為提高行車效率，於昭和18年時(1943年)再完成了台南-新市間路線雙軌化。因運能增加而原站房已不敷使用，於昭和9年(1934年)年開始在原址進行改建工程，由於一邊進行改建，一方面又要兼顧車站正常之運作，故整個工程時期長

達了兩年之久，在旅客人數大幅成長之下，原建於明治35年(1902年)的木造站房就顯得老舊狹小而決定改建。台南站站房改建工程係由鐵道部改良課宇敷赳夫先生負責設計，於昭和11年(1936年)3月15日重建為今日之鋼筋水泥造站房。

　落成後的新站房，與稍早落成的嘉義站站房同屬日據後期落成之建築，風格上也略為不同，雖然同屬「過渡風格」式建築，但台南站在內部雕琢及裝飾上則是比嘉義站要來的精細及講究。

　新站房為兩層樓式設計，大廳前有門廊供汽車旅客上下，兩側為行人入口，一樓為挑高的大廳，原設計為售票大廳，售票口居中而入口則位於兩旁，售票口遷移後改為單純之旅客大廳，正面則改為入口。候車室則分為貳、參等候車室，位於北面之小候車室，原為二等候車室，現仍維持候車室機能；大候車室則位於南面，原為參等候車室，今則改為售票大廳。

　二樓則是鐵路飯店及鐵路餐廳，鐵路飯店在啟業當時是可是全台首屈一指的旅館，飯店內有客房九間，並且附設有酒吧、娛樂室及餐廳等設施，而台南站也是唯一附設有旅館的火車站，其中兩間套房的設備為當時台南市唯一的洋式套房，因地點便利及設備完善，因此日本皇室訪台時都固定下塌於此，因台南站極具歷史意義，於民國87年12月18日經台灣省政府正式公告指定為省定古蹟。

↑ 民國49年時全省鐵路飯店及

鐵路餐廳介紹圖，當時共有台南

及台中兩間鐵路飯店。

　光復後，鐵路飯店及鐵路餐廳仍繼續營業且盛況依舊。但好景不常，因飯店設於車站內而且鄰近月台，故噪音問題一直無法有效改善，加上民營現代化式飯店不斷崛起，鐵路飯店的業績開始一落千丈，最後在民國54年時宣佈停業，而餐廳部份則繼續營業，但情況也不甚理想，在不堪長期虧損的情況下，也在74年6月1日起結束營業，至此二樓的空間便一直閒置至今，後來雖有空間再利用的規劃，只是今仍無下文，實在非常的可惜。