Pochodzenie nazwy jest niepewne, niektórzy wiążą ją z celtyckim rdzeniem alb, oznaczającym "wysokość", inni natomiast wskazują na łaciński przymiotnik albus - "biały", co miało odnosić się do ośnieżonych szczytów Alp. Ta druga hipoteza jest wątpliwa, zważywszy, że na terenie całego łańcucha określenie "alp" odnosi się do wysokogórskich pastwisk (w Polsce nazywanych halami), a nie do szczytów górskich.
Alpy zaistniały w historii dzięki kartagińskiemu wodzowi - Hannibalowi Barakowi. W czasie Drugiej Wojny Punickiej między Rzymem a Kartaginą, w roku 217 p.n.e., na przełomie jesieni i zimy przekroczył góry wykorzystując przełęcz Cenis prowadząc ze sobą 12 słoni. Najwyższe góry Europy nie oparły się także ekspansji Cesarstwa Rzymskiego. W 58 r. p.n.e. Juliusz Cezar podbił Helwetów na terenie obecnej zachodniej Szwajcarii. Wschodnią część obecnej Szwajcarii zorganizowano w osobną prowincję rzymską - Recję. Po upadku Rzymu Alpy przechodziły z rąk do rąk wielu plemion barbarzyńskich. W średniowieczu w XI i XII wieku obszar Alp został w większości włączony do Świętego Cesarstwa Rzymskiego Narodu Niemieckiego. Schyłek tego samego okresu przynosi Alpom pierwsze państwo niezależne od władzy cesarstwa. W dniu 1 sierpnia 1291 roku trzy kantony zawarły przymierze przeciwko rządzącym w cesarstwie Habsburgom i dały początek Związkowi Szwajcarskiemu. Z tego okresu pochodzi też wielki bohater Alp - Wilhelm Tell. Dzięki umocnieniu się pozycji Szwajcarii i polityki, którą prowadziła, w Alpach zapanował pokój. W wieku XVII i XVIII góry zwiedzane są w ramach tak zwanych Grand Tour przez młodzież z Wysp Brytyjskich. Ukuł się zwyczaj wysyłania przyszłych dziedziców angielskich fortun na kontynent europejski w celu nabycia ogłady, zapoznania się z kulturą, a także nowinkami technicznymi i ekonomicznymi z innych regionów. Docelowym krajem były Włochy. Trasa z reguły wiodła przez Paryż, następnie Szwajcarię, gdzie zatrzymywano się na parę dni lub tygodni, by potem dotrzeć do Wenecji, Florencji czy Rzymu. Pierwsze wysokogórskie wycieczki i wyprawy rozpoczęły się dopiero w połowie wieku XIX. Pierwszy klub alpejski założono w Wielkiej Brytanii w 1857 r. Potem przychodzi kolej na Włochy, Szwajcarię i Austrię, gdzie kluby powstały w tym samym 1863 roku. W końcu w 1874 r. powstaje klub także we Francji. Już w roku 1786 pokonano najwyższy szczyt Alp - Mont Blanc. Pozostałe poddały się niewiele później. W 1855 grupa siedmiu śmiałków dotarła na szczyt Matterhornu. W wiek dwudziesty Alpy weszły już jako istotny region turystyczny. Znalazło to swoje potwierdzenie już w 1924 roku, kiedy to odbyły się pierwsze w historii zimowe igrzyska olimpijskie i to właśnie w Chamonix. Po tych igrzyskach zimowa stolica sportu wracała w Alpy jeszcze wiele razy. Na osiemnaście olimpiad zimowych, które w wieku XX miały miejsce połowa odbyła się w różnych regionach Alp Francuskich, Włoskich, Szwajcarskich i Austriackich.