Powstanie i rozwój oddziałów kolejowych na świecie ściśle jest związane z rozwojem kolejnictwa oraz nowymi tendencjami w doktrynach wojennych. Wojska kolejowe jako rodzaj broni wyodrębnił się w drugiej połowie XIX wieku. Zaczątkiem tych oddziałów można uznać oddziały paramilitarnych tworzone w latach 1865 - 66 doraźnie z inżynierów, techników i robotników kolejowych w USA w końcowym okresie wojny secesyjnej. Zarówno konfederaci jak i wojska Unii widziały potrzebę tworzenia podobnych jednostek, bowiem obie strony dysponowały dość dobrze rozwiniętymi liniami kolejowymi (ok.46 tyś. km).

Na kontynencie europejskim najwcześniej rozpoczęto formować regularne wojska kolejowe w Rzeszy Niemieckiej w 1871 roku dla zabezpieczenia działań w wojnie francusko-niemieckiej.

W 1877 roku podobne formacje powołała Rosja, a w 1883 roku Austro-Węgrzech. Pierwsza wojna światowa w pełni potwierdziła potrzeby funkcjonowanie tego odrębnego rodzaju sił zbrojnych. Szyny kolejowe stały się nie tylko głównymi arteriami zaopatrzenia milionowych armii, ale również umożliwiały szybki manewr wojskami i sprzętem. Pierwszą jednostką kolejową sformowano podczas oblężenia Lwowa w listopadzie 1918 roku. Było to spowodowane głęboką potrzebą chwili. Ukraińcy bowiem bardzo często atakowali linię kolejową łączącą Lwów z Małopolską, co drastycznie utrudniało zaopatrywanie obrońców miasta w broń, amunicję i żywność. Jednostka kolejowa, której organizację rozpoczęto 22 listopada 1918 roku, w sile kompanii, już 4 grudnia przystąpiła do odbudowy mostu kolejowego między stacjami Gródek Jagielloński - Rodatycze, zniszczonego przez Ukraińców w nocy z 3 na 4 grudnia.

Polskie oddziały kolejowe w dniu 1 lipca 1920 roku, w okresie działań wojennych z Rosją Sowiecką, liczyły już 198 oficerów i 8669 szeregowych. Trzonem powstających wojsk kolejowych była dawna kadra i żołnierze Polacy służący wcześniej w podobnych formacjach zaborców. Pomimo tej niewielkiej liczebności saperzy kolejowi - w okresie od 4 grudnia 1918 roku do 31 grudnia 1920 roku - uruchomili około 10300 km nowych linii kolejowych, odbudowali 6700 km zniszczonych (normalnych, szerokich i wąskich torów), naprawili 3500 km kolejowych linii telegraficznych i telefonicznych, przywrócili drożność 530 mostom kolejowym o łącznej długości przeszło 18 km, zgromadzili we Lwowie i Dęblinie przeszło 200 parowozów, 500 wagonów osobowych i około 7500 towarowych.

1 sierpnia 1920 roku został sformowany 2 pułk Wojsk Kolejowych, w skład którego weszły: batalion Zapasowy 2 Pułku Wojsk Kolejowych oraz III i IV Bataliony Kolejowe, uczestniczące w działaniach bojowych wojny polsko - bolszewickiej na froncie litewsko - białoruskim.