Cuando la guerra civil estadounidense empezó, la pareja volvió a su país para trabajar para la Unión y para ayudar a la abolición de la esclavitud. Ruffin reclutó soldados para el regimiento Afroamericano de Massachusetts y trabajó para la Comisión Sanitaria de EE. UU. durante la guerra. Después de la guerra, se volvió activa en la Federación de Clubs de Mujeres del estado de Massachusetts y en varias causas caritativas.[1]
También participó en la Junta de la Asociación de Educación Moral de Massachusetts y en la Asociación de Sufragio Escolar de Massachusetts, trabajando al lado de otras líderes de Nueva Inglaterra, incluyendo a Julia Ward Howe y Lucy Stone.[2]
En 1869, el movimiento de sufragio femenino se separó en dos bandos. La Asociación Americana de Sufragio Femenino (AWSA), liderado por Lucy Stone y Julia Ward Howe, quienes creían que cualquier paso adelante para la igualdad era un paso adelante para todo el mundo, y la Asociación Nacional de Sufragio Femenino (NWSA), liderado por Elizabeth Cady Stanton y Susan B. Anthony, creían que los derechos de las mujeres tenían que estar por encima del resto. Ruffin se unió a la AWSA.[3]
También escribió para el semanario negro, The Courant, y se convirtió en miembro de la Asociación de Prensa de Mujeres de Nueva Inglaterra.[4] Cuando su marido falleció en 1886, Ruffin usó su seguridad económica y sus habilidades de organización para empezar el Woman's Era, el primer periódico de Estados Unidos publicado por y para mujeres afroamericanas. Trabajó como editora y creadora de contenidos entre 1890 y 1897. Mientras promovía actividades interraciales, el Woman's Era pedía a las mujeres negras que exigieran mejores derechos para su etnia.[5]
En 1894, Ruffin organizó el Woman's Era Club (más tarde llamado New Era Club), un grupo de defensa de las mujeres negras, con la ayuda de su hija Florida Ridley y Maria Baldwin, una directora de una escuela de Boston.[6]
En 1895, Ruffin organizó la Federación Nacional de Mujeres Afroamericanas. Convocó la Primera Conferencia Nacional de Mujeres de Color de América en Boston, a la que atendieron mujeres de 42 clubs de mujeres negras de 14 estados diferentes.[7] En el año siguiente, la organización se unió con la Liga de Mujeres de Color para formar la Asociación Nacional de Clubs de Mujeres de Color (NACWC). Mary Church Terrell fue elegida presidenta y Ruffin trabajó como una de las vicepresidentas.[4]
Justo cuando la NACWC se estaba formando, Ruffin estaba creando el Club de Mujeres de Nueva Inglaterra. Cuando la Federación General de Clubs de Mujeres se reunió en Miwaukee en 1900, decidió asistir como representante de tres organizaciones: el New Era Club, el Club de Mujeres de Nueva Inglaterra y el Club de Prensa de Mujeres de Nueva Inglaterra. En la Federación General las mujeres sureñas ocupaban los cargos de poder y, cuando el Comité Ejecutivo descubrió que todos los miembros del club New Era eran negros, no aceptaron las credenciales de Ruffin. Le dijeron que podía ser representante de los dos clubs de blancas pero no del de negras. Rechazó por principios y fue excluida de los procedimientos. Estos sucesos se conocieron como "El Incidente Ruffin" y fueron cubiertos por periódicos de todo el país, la mayoría apoyando a Ruffin. Más tarde, el club Woman's Era hizo una declaración oficial en la que afirmaban que "las mujeres de color deberían confinarse en sus clubs y el amplio campo de trabajo abierto para ellas en ellos".[4]
El club New Era se deshizo en 1903, pero Ruffin se mantuvo activa en la lucha por la igualdad de derechos y, en 1910, ayudó a formar la Asociación Nacional para el Progreso de las Personas de Color (NAACP). Junto con otras mujeres que habían pertenecido al club New Era, cofundó la Liga de Mujeres en Servicio Comunitario, la cual aún existe hoy en día.[4]