Nacque nel 1845 a Isny in Germania ed entrò adolescente fra i novizi gesuiti di Gorheim per studiare materie umanistiche e retorica. Studiò filosofia nella badia di Maria Laach in Renania, dove ebbe la prima esperienza di lavoro in una biblioteca. Per un breve periodo insegnò filosofia e materie letterarie a Feldkirch. Quando, durante il cancellierato di Bismarck, in seguito a una delle leggi imperiali ispirate dal Kulturkampf, i gesuiti furono espulsi dal territorio tedesco, riparò a Ditton Hall, presso Liverpool, dove la Compagnia aveva fondato una scuola di teologia. Quando papa Leone XIII consentì l’accesso agli archivi vaticani, si trasferì a Roma con l’intenzione di lavorare sulle relazioni dei nunzi apostolici in Germania, ma il progetto non arrivò mai a compimento. Nel 1881 entrò fra gli scrittori della Biblioteca Vaticana, della quale sarebbe divenuto direttore nel 1895 e poi, dal 1911, prefetto. La storia della biblioteca fu anche argomento di studio, fino alla pubblicazione di un volume (primo e unico) della Historia Bibliothecae Romanorum Pontificum, punto di arrivo di una serie di studi pubblicati sull’«Archiv für Literatur und Kirchengeschichte des Mittelalters» che aveva contribuito a fondare.
Dopo gli anni della prima guerra mondiale, che trascorse all’estero, insegnò alla Pontificia Università Gregoriana e nel 1922 fu fatto cardinale dal papa Pio XI, quel monsignor Achille Ratti che era stato il suo viceprefetto alla Vaticana e che nel 1929 lo fregiò del titolo di bibliotecario e archivista di Santa Romana Chiesa. Si occupò prevalentemente di manoscritti, studiandone la storia, provvedendo alla catalogazione e al restauro, fino a promuovere una conferenza internazionale a San Gallo in Svizzera sui problemi legati alla loro conservazione. Gli interessi di monsignor Ehrle non trascurarono il patrimonio librario che, al di là dell’attività di studioso di bibliografia e biblioteconomia, sentì il dovere di accrescere con l’acquisto di importanti biblioteche, come quelle dei Borghese e dei Barberini.
Sotto la sua guida la Vaticana divenne un importante centro di studi, frequentato dai ricercatori più insigni. Noto per la cortesia e per la volontà di agevolare la consultazione dei materiali che vi si contenevano, monsignor Ehrle fu tra i primi ad accettare che venissero riprodotti in fotografia ad uso degli studiosi. Anche Antonio Favaro e Isidoro Del Lungo ricorsero a lui a più riprese per la difficile questione della consultazione dei documenti dell’Archivio segreto vaticano riguardanti Galileo e il suo processo, ma la strada non fu piana: data la particolare scabrosità dell’argomento, la pur volenterosa opera di mediazione del gesuita tedesco non sempre diede i frutti sperati. Franz Ehrle morì in Vaticano nel 1934.
