Le dijo al diario El Espectador que aprendió a cantar y tocar guacharaca en la infancia, y fue influenciado por músicos que vinieron a Atanquez a tocar en la Fiesta de San Isidro Labrador. [3] Estudió en el Liceo Loperena de Valledupar junto a Rafael Escalona y puede haber sido el primero en presentarle a Guillermo Buitrago las composiciones de Escalona. [1]
A principios de la década de 1940, era miembro de la orquesta de José María Peñaranda. Ingresó al grupo de Guillermo Buitrago en 1946, y ese año realizó sus primeras grabaciones con la Sonora Curro y con Don Américo y sus Caribes.[1][3] En 1947 se convirtió en miembro fundador de Bivea y sus Vallenatos, en el que cantó y tocó guacharaca junto a Julio Bovea y Ángel Fontanilla en guitarra solista y rítmica respectivamente.[4] También ha actuado con los grupos de Pacho Galán, Lucho Bermúdez, Celia Cruz, Alberto Pacheco, Edmundo Arias, Chico Cervantes, Gustavo Gutiérrez Cabello, Calixto Ochoa y Aniceto Molina. [1][3][5] En 1954 grabó la primera versión de la canción "Te Olvidé" de Antonio María Peñaloza, que a menudo se asocia con el Carnaval de Barranquilla, supuestamente porque se encontraba en el estudio de grabación cuando Tito Cortés, quien fue contratado para grabar las voces, no se presentó. [1]
Los demás miembros de Bovea y sus Vallenatos se mudaron a Argentina en la década de 1950 y permanecieron allí bajo contrato exclusivo con RCA Victor hasta 1969, cuando se separaron. [6]Regresó a Bogotá y formó su propio trío llamado Alberto Fernández y sus Auténticos Vallenatos, o simplemente Los Auténticos Vallenatos, junto a Angel Fontanilla. [1][5] Fontanilla fue posteriormente reemplazado por Otoniel Miranda. [5]