Creó el grupo el productor Rafael Pérez Botija con la intención de introducir en el mercado una banda que versionara piezas de Zarzuela con ritmos modernos para el sello CBS, hasta ahora con un catálogo netamente extranjero. Para ello fichó, entre otros, a antiguos miembros de grupos como Los Pasos (Álvaro Nieto), Los Sonor (Manuel Escobar) y Aguaviva (Julio Seijas), junto a otros vocalistas sin experiencia anterior en el mundo de la música, hasta reunir una formación con ocho miembros.[1]
En 1971 salió a la luz su primer sencillo, El soldadito, versión pop de una pieza de la zarzuela Luisa Fernanda y que en pocas semanas se alzó a los primeros puestos de las listas de ventas, gracias a los arreglos de Juan Carlos Calderón, basados en la habanera Marchaba a ser soldado (El saboyano). Esta pieza provenía de la zarzuela Luisa Fernanda (1932), de Federico Moreno Torroba y Guillermo Fernández Shaw, donde originalmente la interpretaba un mendigo acompañado de organillo.[1] El vídeo con el que se promocionó se apoyó en la familiaridad del público con las zarzuelas, muy difundidas entonces en televisión[2]
Pocos meses después editaron el LP Reestreno, que retomaba y actualizaba fragmentos de la mencionada Luisa Fernanda, La tabernera del puerto, Doña Francisquita y La canción del olvido, y un segundo sencillo, "El firulí".
Un año más tarde grabaron el sencillo Lección 20, acompañado en la cara B por Tema para Ana, en homenaje a la componente Ana María Fernández, fallecida ese mismo 1972 en accidente de tráfico.
Su siguiente álbum, La Compañía, incluía algunos temas lanzados en el anterior LP y el sencillo "Gitano" (canción compuesta por el exitoso tándem Herrero-Armenteros), que volvió a auparlos a los primeros puestos de las listas.
En 1974 editarían sus dos últimos singles: Cuando vuelvas a tu tierra y Adiós Jamaica, ya como sexteto. Dos años después se publicaba La aventura. Ninguno de ellos tuvo especial repercusión, lo que precipitó la desaparición del grupo, que pocos meses después renació bajo el nombre de La Pequeña Compañía.