The Gerogerigegege est fondé en 1985[1] par Juntaro Yamanouchi[2], qui est le seul membre permanent du groupe[3]. Gero 30 est également un membre fondateur. Yamanouchi et Gero 30 se rencontrent dans un club sadomasochiste de Tokyo, au sein duquel ils travaillent comme plongeurs. « Gerogerigegege » peut se traduire par « Vomidiarrhéebeurkbeurkbeurk »[1]. Leur discographie est prolifique et est souvent produite à tirage limité. Son caractère transgressif et étrange leur acquiert une notoriété internationale[4].
Gerogerigegege, paru en 1985, est l'un des premiers albums du groupe japonais. Il présente une approche différente de leurs œuvres ultérieures plus provocatrices. D'après Tiny Mix Tapes, il s'agit d'un disque représentatif de l'émergence du mouvement Japanoise dans les années 1980 et il possède une sonorité distante et hypnotique, où rythmes, riffs et cris lointains apparaissent et disparaissent au fil de six longs morceaux[2].
Dans leur album Showa, l'hymne national japonais ouvre et clôt un long enregistrement de relations sexuelles[2]. Une autre de leurs œuvres, Art Is Over, consiste en un tentacule de poulpe dans un boîtier de cassette audio[3].
En 1992, le groupe publie l'album live Tokyo Anal Dynamite, dans lequel il joue 75 morceaux de hurlements en 40 minutes[1],[2] dans un style grindcore[1] et bruitiste[4]. AllMusic considère cet album comme l'œuvre « la plus pure » et « la plus stupéfiante » du groupe[5] et comme l'un des classiques de la musique bruitiste[4]. En 1994, The Gerogerigegege sort l'album studio Instruments Disorder, qui suit un procédé similaire. Pour Sputnikmusic, l'album pousse le rock à ses limites extrêmes[6].
Yamanouchi disparaît en 2001[1], laissant le groupe inactif. Son héritage perdure cependant, notamment à travers l'album hommage Art Is Over: A Tribute to The Gerogerigegege, sorti en 2015 sur le label Ontregeld Geluid Records[3].
Le groupe fait un retour inattendu en 2016 avec l'album Moenai hai (en français : « Cendres incombustibles »), publié sur le label Eskimo Recordings de Jun Konagaya[1],[7],[8]. En 2019, The Gerogerigegege sort Uguisudani Apocalypse via le label The Trilogy Tapes. L'album, que Tiny Mix Tapes estime surprenant en raison de son contraste avec les œuvres antérieures du groupe, mélange lounge, boogie et funk[8].
