La carrière musicale de Gem commence réellement lors de la signature de son groupe Heavy Stereo chez Creation Records, le label d'Oasis. Il chante, écrit, produit et joue de la guitare dans ce groupe. Les principaux faits d'armes d'Heavy Stereo sont d'avoir ouvert pour Oasis en 1996 à Dublin et la présence de la reprise de The Gift sur le disque hommage à The Jam, Fire & Skill.
Il rejoint Oasis en 1999 pour pallier le départ de Paul «Bonehead» Arthurs. Son arrivée se produit après les sessions d'enregistrement du quatrième album du groupe, Standing on the Shoulder of Giants. Il n'apparaît donc pas sur l'album mais fait partie du groupe pour la tournée qui s'ensuit, le Standing on the Shoulder of Giants Tour. Gem prend très vite une grande importance puisqu'il a écrit plusieurs morceaux pour le groupe, dont Hung In A Bad Place (présentée dès lors de la tournée Ten Years of Noise and Confusion) pour Heathen Chemistry, A Bell Will Ring (présentée à Glastonbury 2004) figurant sur l'album Don't Believe the Truth et To Be Where There's Life sur l'album Dig Out Your Soul, qui est jouée sur scène lors de la tournée promotionnelle de l'album et dont une ligne du morceau lui donne son titre.
Beady Eye s'étant séparé en 2014, Noel Gallagher annonce en 2017 l'arrivée de Gem Archer au sein de son groupe: Noel Gallagher's High Flying Birds. Il fait partie de la tournée de reformation d'Oasis à partir de l'été 2025.
En plus de la guitare, il chante et joue également du piano et de l'harmonica.
