Il est l'un des tout premiers solistes de jazz. Il commence à jouer à Omaha (de 1920 à 1923), puis est engagé dans l'orchestre de Fletcher Henderson (juste avant l'arrivée de Louis Armstrong) de à et plus tard, de 1928 aux printemps 1929). Il est décrit comme un joueur de blues exceptionnel, qui savait aussi swinguer. Il accompagne Bessie Smith sur ses morceaux les plus célèbres (dont les "Trombone Cholly") dans les années 1920.
