Otis Spann apprend le piano dès l'âge de 8 ans avec le pianiste local Friday Ford. Ses débuts sont peu connus, Otis donnant des versions contradictoires d'un interview à l'autre.
En 1952 il est engagé comme pianiste par Muddy Waters qu'il suit jusqu'en 1960. Leur complicité est telle que Waters le désigne affectueusement comme étant son demi-frère[1]. Il enregistre également avec d'autres musiciens comme Bo Diddley, Sonny Boy Williamson II, Howlin' Wolf, Jimmy Rogers et Little Walter.
Il finit par former son propre groupe. À la fin des années 1960, il apparaît dans des enregistrements avec Buddy Guy, Peter Green et Fleetwood Mac. Son seul succès commercial est Hungry country girl, dédié à sa femme, la chanteuse Lucille Spann, et enregistré avec Fleetwood Mac.
Il existe plusieurs extraits de concerts filmés où il apparaît comme le DVD du Newport Folk Festival de 1960 et celui de l'American Folk Blues Festival (1963) et The Blues Masters (1966).
Il meurt à Chicago en 1970 des suites d'un cancer du foie.