Na bicykloch sa mimo cesty jazdilo už od ich vynájdenia. Moderná horská cyklistika sa datuje od 70. rokov 20. storočia. Jazdci v Crested Butte, Colorado a Cupertino, California si upravovali bicykle a prispôsobovali ich na jazdu v teréne. Skupina v Marin County, California je uznaná Mountain Bike Hall of Fame, ako skupina ktorá zohrala kľúčovú rolu pri zrode tohoto športu tak ako ho poznáme dnes. Začali pretekať dolu Mount Tamalpais (Mt. Tam) na bicykloch značky Schwinn z konca 30. a začiatku 40. rokov osadených lepšími brzdami a širšími pneumatikami. Táto skupina pozostávala z Joe Breeza, Garry Fishera a Keitha Bontragera. Joe Breeze postavil prvý skutočný horský bicykel v r. 1977. Tom Ritchey postavil prvý regulárne dostupný rám, ktorý osadili Garry Fisher a Charlie Kelly, a predali ich spoločnosti Mountainbikes (neskôr zmenená na Fisher Mountain Bikes, potom kúpená spoločnosťou Trek). Prvé dva masovo predávané horské bicykle boli v roku 1982 Specialized Stumpjumper a Univega Alpina Pro.