Né dans une ferme du canton de Rubicon, dans le comté de Greene (Illinois), de parents nommés Thomas et Elizabeth Melvin[2], il fit ses études à l'Université Wesleyan de l'Illinois. En 1880, il épousa Addie Strickland. Le couple eut quatre enfants, dont Leon, décédé en 1920. En 1900, il commença à travailler comme secrétaire à la Greene County Mutual Fire Insurance Company. À 107 ans, il y travaillait encore. Il possédait également un élevage de bétail, « Sylvester Melvin and Sons »[3].
Malgré son âge avancé, il était capable de ramasser les feuilles mortes dans son jardin. Il se souvenait de la Guerre de Sécession américaine, qui avait débuté en 1861. Son épouse, Addie, décéda en 1953 ou 1954. Pour son 109e anniversaire, en 1960, le maire proclama cette journée « Journée Sylvester Melvin »[4]. Les commerces fermèrent une demi-heure en son honneur. On disait qu'il avait une mauvaise vue. Il vivait avec l'une de ses filles. Son secret de longévité ? « Ne pas mourir ». À l'occasion de son 110e anniversaire, en 1961, il fut hospitalisé pour un trouble intestinal bénin[5].
Melvin mourut dans l'Illinois, aux États-Unis, le 12 mars 1962, à l'âge de 110 ans et 103 jours.