Inoue wurde im Jahr 1990 japanischer Juniorenmeister im Sprint-Mehrkampf und trat international erstmals bei der Winter-Universiade 1991 in Sapporo in Erscheinung, wobei er den 16. Platz über 1000m errang. Im folgenden Jahr holte er in Albertville bei seiner ersten Teilnahme an Olympischen Winterspielen die Bronzemedaille über 500m. Erstmals am Eisschnelllauf-Weltcup nahm er im Dezember 1992 in Karuizawa teil und lief dort über 1000m auf die Plätze 18 und 14 sowie über 500m auf die Plätze neun und acht. In der Saison 1993/94 gewann er bei den Einzelstreckenasienmeisterschaften 1994 in Sapporo über die Distanzen 500m und 1000m jeweils die Goldmedaille und bei der Sprintweltmeisterschaft 1994 in Calgary die Bronzemedaille im Sprint-Mehrkampf. Beim Saisonhöhepunkt, den Olympischen Winterspielen 1994 in Lillehammer, wurde er Achter über 1000m und Sechster über 500m. In der Saison 1994/95 erreichte er mit zwei zweiten sowie einen dritten Platz über 500m seine ersten Podestplatzierungen im Weltcup und lief damit auf den vierten Platz in der Weltcupwertung über diese Distanz. Nach vier dritten Plätzen über 500m bei den ersten vier Weltcupstationen der Saison 1995/96, holte er in Innsbruck mit zwei ersten Plätzen über 1000m seine ersten Weltcupsiege. Zudem errang er dort erneut den dritten Platz über 500m und kam beim folgenden Weltcup in Roseville zweimal über 1000m auf den zweiten Platz sowie einmal 500m auf den zweiten Platz. Die Saison beendete er auf dem vierten Platz in der Weltcupwertung über 500m und auf den zweiten Rang in der Weltcupwertung über 1000m.
In der Saison 1996/97 erreichte Inoue mit 19 Top-Zehn-Platzierungen den neunten Platz in der Weltcupwertung über 1000m und den fünften Rang in der Weltcupwertung über 500m. Dabei errang er in Calgary den zweiten Platz über 1000m und holte in Innsbruck über 500m seinen dritten Weltcupsieg. Bei den Einzelstreckenweltmeisterschaften 1997 in Warschau belegte er den 14. Platz über 1000m sowie den 11. Rang im 2 × 500m-Lauf, bei der Sprintweltmeisterschaft 1997 in Hamar den achten Platz im Sprint-Mehrkampf und im folgenden Jahr bei den Einzelstreckenweltmeisterschaften 1998 in Calgary den achten Platz im 2 × 500m-Lauf. Nachdem er in der Saison 1997/98 nur an vier Läufen im Weltcup teilnahm und keine Podestplatzierung erringen konnte, startete er in der Saison 1998/99 wieder regelmäßig im Weltcup und lief dabei in Chuncheon auf den dritten Platz über 500m sowie in Nagano auf den zweiten Rang über 1000m. Er wurde damit Neunter in der Weltcupwertung über 1000m und Fünfter in der Weltcupwertung über 500m. Zudem belegte er bei der Sprintweltmeisterschaft 1999 in Calgary den sechsten Platz im Sprint-Mehrkampf und bei den Einzelstreckenweltmeisterschaften 1999 in Heerenveen den 16. Platz über 1000m sowie den achten Rang im 2 × 500m-Lauf. In der Saison 1999/2000 kam er in Berlin mit Platz drei über 500m letztmals im Weltcup aufs Podest und errang zum Saisonende den siebten Platz in der Weltcupwertung über 500m. Bei seinen letzten Teilnahme an internationalen Wettbewerben der Sprintweltmeisterschaft im Februar 2000 in Seoul lief er auf den 19. Platz im Sprint-Mehrkampf. Bei japanischen Meisterschaften, wobei er keinen Meistertitel gewinnen konnte, wurde er viermal Dritter und dreimal Zweiter.