信濃国伊那郡小野村の庄屋小沢家に生まれ、同村の小野家の養子となる。安政6年（1859年）に横浜に出て、貿易商を営む[1]。横浜の町会所役人を務め、『町会所日記』を残した。また勝海舟、山岡鉄舟、高橋泥舟らと親交を持った[1]。明治元年（1868年）には横浜の町名主に推挙され、同4年（1871年）には改組により町名主から副市長となる[1]。同5年（1872年）に辞職して帰郷し、「光賢庵」で余生を送った。
明治33年（1900年）7月27日没、墓所は横浜市鶴見区の總持寺。
子孫により「小野光賢・光景記念館」が設立された。