Az Iron Mountain-t Herman Knaust alapította 1951-ben, a New York állambeli Livingstonban. Knaust először gombatermesztéssel és értékesítéssel foglalkozott. Szomszédai a Hudson folyó völgyében „a gombatermesztés királyának” nevezték. 1936-ban 9000 dollárt fizetett egy használaton kívüli vasércbányáért és 40 hektár földért, hogy több helye legyen a gombák termesztéséhez. De 1950-ben a gomba piaca megváltozott, ezért úgy döntött, hogy új üzleti vállalkozásba kezd, amelyben jól ki tudja használni a bányát, amelyet Vashegynek (Iron Mountain) nevezett el.

A II. világháború után Knaust sok bevándorló áttelepítését támogatta az Egyesült Államokba. Ezek az emberek a háborúban elveszítették személyes irataikat. Az Egyesült Államok a háború után az atomháború gondolatával volt elfoglalva. Ez arra a felismerésre késztette Knaustot, hogy a létfontosságú információk megőrzésére építse fel új üzleti vállalkozását.

Knaust első „páncéltermeit” a korábban vásárolt Iron Mountain bányában nyitotta meg. Értékesítési irodát nyitott az Empire State Buildingben, és rávett néhány katonai vezetőt, többek között Douglas MacArthur tábornokot arra, hogy tegyenek látogatást az Iron Mountain telephelyén.

Az Iron Mountain első ügyfele az East River Savings Bank volt, amely letét-nyilvántartásainak mikrofilm-másolatait és aláírási kartonjainak másodpéldányait páncélozott gépkocsikban szállította el az új létesítménybe. Amint a new york-i székhelyű társaságok felismerték, hogy meg kell óvniuk fontos irataikat, hamarosan más nagyvállalatok is csatlakoztak. Az Iron Mountain egyre nagyobb szerepet töltött be New York-i piacon, túlnőtt eredeti méretein, és használatba vett egy régi mészkőbányát a város közelében. A társaság ekkor már vezető szerepet töltött be az adattárolásban.

Az ügyfelek hamarosan papíralapú dokumentumaiknak is tárolási helyet kerestek. 1978-ban az Iron Mountain megnyitotta első felszíni irattároló létesítményét New Yorkban. 1980-ban telephelyet nyitott New Englanden, hogy kiszolgálja a számítógépes biztonsági másolatok védelmére irányuló növekvő keresletet. 1983-ban az Iron Mountain tovább terjeszkedett New Englanden, és megvásárolta a New England Storage Warehouse nevű bostoni társaságot. Ez volt az Iron Mountain első felvásárlása, mely révén a vállalat beléphetett az egészségügyi és a jogi iratok kezelését végző piacokra.

Az 1980-as évek közepére az Iron Mountain termék-portfoliója már tartalmazta az összes olyan termékcsaládot, amely a jelenlegi társaság szolgáltatásainak gerincét alkotja. Szolgáltatásai között szerepelt az irattárolás és iratkezelés (közöttük az egészségügyi és a jogi anyagok kezelése), az adatok és létfontosságú iratok kihelyezett védelme New York és New England piacain.

1988-ban az Iron Mountain fontos lépést tett a Bell & Howell Records Management, Inc. felvásárlásával. Az Iron Mountain ezzel az ágazat első országos szolgáltatójává vált.

A terjeszkedés folytatódott, és 1995-re az Iron Mountain éves bevétele meghaladta a 100 millió dollárt. A társaság vezetői úgy érezték, eljött az ideje az iratkezelési ágazat konszolidálásának. 1996 februárjában az Iron Mountain átalakult részvénytársasággá.

Ma az Iron Mountain az információkezelési szolgáltatások területén piacvezető, és több mint 140. 000 ügyfelet szolgál ki öt kontinens 39 országában. Az Iron Mountain, amelynek részvényeivel IRM néven kereskednek a New York-i tőzsdén, a Fortune 1000 klub tagja (jelenlegi besorolása: 644). Számos társaság a legkülönbözőbb iparágakból, a kisvállalatoktól a nagyvállalatokig – közöttük a Fortune 1000 társaságok több mint 95%-a és az FTSE 100 társaságok több mint 85%-a – rendszeresen veszi igénybe az Iron Mountain szolgáltatásait.

2008-ban 3,1 milliárd dolláros éves bevételével és a főbb globális piacokat kiszolgáló széles termék-portfoliójával az Iron Mountain a világ megbízható partnere az információkezelési szolgáltatások terén.

Herman Knaust előrelátásról tett tanúságot 1952-ben, amikor ezt mondta: „Ez az üzlet gomba módra fog nőni...”.

Címlap, Wall Street Journal, 1952. okt. 24.