Trasladado de niño a la ciudad de San Antonio, en el noreste de la provincia de Catamarca, toda su vida se consideró catamarqueño.[2] Ingresó en 1924 al seminario regional que funcionaba en San Fernando del Valle de Catamarca, la capital provincial, donde estudió Teología, Filosofía, ordenándose sacerdote en 1935. Trabajó en las parroquias de Belén y Santa Rosa de la provincia de Catamarca.[1]
Inspirado en los trabajos antropológicos e históricos de Samuel Lafone Quevedo, Antonio Larrouy, Manuel Soria y Adán Quiroga, comenzó su carrera como historiador publicando biografías de sacerdotes ilustres que actuaron en su provincia de adopción, para posteriormente diversificar sus intereses hacia el conjunto de la historia cultural de la provincia.[2] Fue director del diario La Unión de esa provincia, fundado por el obispo Inocencio Dávila, y presidente de la Junta Provincial de Estudios Históricos. Fue docente en varias escuelas secundarias, tanto privadas como públicas, de su provincia y en el Instituto del Profesorado de Catamarca, donde fue profesor de Historia Regional del Noroeste Argentino. Fue director del Archivo Histórico provincial, de la Junta de Historia Eclesiástica de la República Argentina, de la Comisión Nacional de Museos y Monumentos, y del Instituto de Historia Lingüística y Folklore de la Universidad Nacional de Tucumán.[1]
Además de centrar sus estudios históricos en la cultura provincial, fue de los primeros en rescatar las figuras históricas de Felipe Varela y Ángel Vicente Peñaloza como defensores de los intereses de sus comprovincianos, abandonando la postura predominante hasta entonces, que seguía la tradición de Bartolomé Mitre de considerarlos anarquistas o bandidos. Su convicción historiográfica era que primero se debía estudiar la historia local, antes que la nacional, para sólo después llegar a la historia mundial.[2]
Fue uno de los fundadores y redactores principales de la revista Árbol, que circuló en Catamarca entre 1955 y 1956 y tuvo un papel central en la identificación de una trayectoria cultural propia para la provincia.[3]
Por iniciativa del Consejo General de Educación provincial, en 1956 se realizó un concurso para la publicación de una historia completa de la provincia de Catamarca. Olmos se presentó a la misma reuniendo apuntes que había redactado y recolectado durante más de veinte años; su propuesta fue aprobada, publicada al año siguiente y, durante casi 40 años, se convirtió en la historia "oficial" de la provincia.[4] Desde 1958 es miembro correspondiente de la Academia Nacional de la Historia de la República Argentina.[1]