Après la fin du groupe The Folk Crusaders, en 1972 Kazuhiko Katō part vivre dans le quartier de Kensington à Londres où il est impressionné par la scène
glam rock montante menée par T. Rex et David Bowie. Il repart au Japon pour former un groupe qui émulerait ce style[1]. La formation originale du groupe incluait Katō, sa femme Mika, le batteur Hiro Tsunoda et le guitariste Masayoshi Takanaka. Ensemble ils enregistrent un premier single nommé Cycling Boogie en juin 1972[4], sur Doughnut Records[5], un label de musique japonaise fondé par Katō lui-même[6].
Tsunoda quittera le groupe pour être remplacé par Yukihiro Takahashi et le bassiste Ray Ohara rejoint le groupe. Cette formation enregistre le premier album du groupe, Sadistic Mika Band sur le label anglais Harvest. L'album passe entre les mains de Malcolm McLaren qui le donne au leader de Roxy Music, Bryan Ferry qui soutiendra leur venue en Angleterre[1].
Leur second album Kurofune (黒船, Black Ship(s)?) fut enregistré en Angleterre par le producteur Chris Thomas. A cette époque, Thomas présente Mika au groupe Badfinger et celle-ci chante sur le morceau Know One Knows de l'album Wish You Were Here. Durant l'enregistrement de l'album, le groupe est rejoint par le claviériste Yu Imai. Si l'album se vend bien au Japon, il ne rencontre qu'un succès d'estime au Royaume Uni.
Ray Ohara quitte le groupe et est remplacé par Tsugutoshi Gotō. Le troisième album Hot! Menu est toujours produit par Chris Thomas. Le groupe jouera deux morceaux (Time to Noodle et Suki Suki Suki live dans l'émission de la BBC Old Grey Whistle Test en octobre 1975[7]. Il fait aussi une apparition dans l'émission de la BBC Pebble Mill at One et sera interviewé par Jan Leeming.
Le groupe jouera se produira en tournée au Royaume Uni en tant que première partie de Roxy Music notamment lors d'un show au Stade de Wembley. Il s'agit du tout premier groupe japonais à avoir une tournée au Royaume Uni[1]. L'enregistrement du concert format leur dernier album Live in London
Après la sortie de cet album en 1975, le couple Kazuhiko Katō et Mika divorce. Mika part se marier avec Chris Thomas, émigre au Royaume Uni et arrête la musique.
Les membres restant, Takahashi, Takanaka, Imai, et Gotō décident de reformer un nouveau groupe sous le nom de The Sadistics. Ils enregistrent deux albums studios et sortent deux lives, avant que le groupe ne se sépare en 1979, chacun étant pris par d'autres projets. Durant les années 1980, les membres du groupe se retrouvent régulièrement à collaborer aux albums solos des uns et des autres.
Le groupe s'est reformé à de nombreuses occasions. À chaque fois, le cœur du groupe est formé de Kazuhiko Katō, Yukihiro Takahashi et Masayoshi Takanaka, entourés de nouveaux musiciens et d'une nouvelle chanteuse.
En 1985, le groupe se reforme sous le nom de Sadistic Yuming Band avec Yumi Matsutoya, (Yuming) en tant que chanteuse, Tsugutoshi Gotō à la basse et Ryuichi Sakamoto au clavier. En 1989, le groupe se reforme sous le nom de Sadistic Mica Band avec Karen Kirishima en tant que chanteuse et le retour de Ray Ohara à la basse.
En 2006, le groupe se reforme sous le nom de The Sadistic Mikaela Band[1] avec la chanteuse pop de 22 ans, Kaela Kimura. La sortie de l'album Narkissos sera suivi d'une tournée se terminant au NHK Hall de Shibuya à Tokyo. L'année suivante, le groupe sortira un album trois disque de leur concert, de 1975 à 2006.