Franz Weiss naît le à Glatz[1]; déménageant à Vienne, il devient dans les années 1790 un joueur d'alto dans un quatuor à cordes informel dirigé par Ignaz Schuppanzigh, qui joue chaque semaine pour le prince Lichnowsky[2],[3]. Il est plus tard membre du quatuor à cordes privé du comte Razumowsky, fondé en 1808 et dirigé par Schuppanzigh. Le quatuor se dissout en 1815 et Schuppanzigh s'éloigne de Vienne[4].
De 1819 à 1823, Weiss joue de l'alto dans un quatuor à cordes formé par Joseph Böhm. En 1823, Schuppanzigh revient et réforme son quatuor à cordes, Weiss jouant à nouveau de l'alto. Le quatuor donne les premières représentations de plusieurs des derniers quatuors à cordes de Beethoven[3].
Weiss est également connu à Vienne comme violoniste et organise régulièrement ses propres concerts, principalement de musique de chambre. Il est compositeur, ses œuvres comprenant de la musique de chambre, des sonates pour piano, des ouvertures et des symphonies[1].