Kainulainen ha formado parte de las bandas Evergrey, Mess, E.Vil, Hoitovirhe, Stratovarius, Heat y Kotipelto.
La etapa de "Stratovarius" es la época más significativa de Jari Kainulainen como músico, habiendo participado en prácticamente la totalidad de los discos de la banda, y siendo considerado como uno de los cinco músicos de la "etapa clásica" de la misma (junto con Timo Tolkki, Timo Kotipelto, Jens Johansson y Jorg Michael).
Su entrada en Stratovarius coincide con la salida unos años antes de Jari Behm, anterior bajista de Stratovarius, quien por su parte había reemplazado a Jyrki Lentonen que conocía a Timo Tolkki de su anterior banda "Road Block", que también había sido el sustituto de John Vihervä (el músico de "Black Water", la embronaria banda de "Stratovarius"). Jari entró en la banda teniendo que hacerse cargo tan sólo de grabar el 30% de las pistas de bajo de su primer álbum en el grupo ("Twilight Time") ya que el propio guitarrista y compositor Timo Tolkki se había encargado de dejar grabado el resto en su ausencia. A partir de entonces Jari asumió la totalidad de la responsabilidad tanto de grabar el bajo en los siguientes discos, como de tocarlo en todos sus directos, cosa que cumplió siempre fielmente hasta el día de su marcha.
Jari fue uno de los tres músicos que permanecieron en "Stratovarius" durante el convulso período entre los álbumes "Elements" y el último que grabó Jari, "Stratovarius", cuando Tolkki, empujado por un estado de inestabilidad mental, decide expulsar de la banda a Kotipelto, y arrastrado por ello decide marcharse el batería Jörg Michael, retornando ambos poco tiempo después (época en la que se unieron a la banda de forma provisional la cantante Miss K y Anders Johansson, hermano de Jens).
Después de ello, en julio de 2005, Jari decide abandonar el grupo por motivos personales, no habiendo llegado a realizar el tour previsto para la presentación de "Stratovarius", siendo entonces sustituido por el también finlandés Lauri Porra.
Tras su salida de "Stratovarius" Jari decidió tomarse un cierto tiempo de descanso junto a su entonces reciente esposa Heidi, periodo tras el cual formó junto a los músicos Elias Viljanen, Tommi Salmela y Atte Sarkima la banda "Mess". Posteriormente, el 6 de agosto de 2007 anunció públicamente su integración en la banda sueca de metal progresivo "Evergrey" con los que acaba de grabar su primer disco "Torn"
A finales de 2010 se confirmó que Kainulainen formaría parte de la nueva banda de Timo Tolkki, llamada "Symfonia". Sin embargo, apenas un año después, el grupo quedó disuelto.
