Estudió ingeniería en Zúrich entre 1873 y 1875, aunque no llegó a titularse. Tras pasar quince años trabajando en una fábrica de aparatos eléctricos en Basilea, y descontento con esa actividad, retomó sus estudios de física en 1885 con Hermann von Helmholtz en Berlín. Durante unas vacaciones en Suiza conoció a Wilhelm Conrad Röntgen y a su esposa; desde entonces, ambas parejas mantuvieron una relación de amistad.
Zehnder renunció a graduarse con Helmholtz y recurrió a su amigo Röntgen con ese propósito. El propio Röntgen, que tampoco había completado la enseñanza secundaria, se mostró en este aspecto más receptivo. Zehnder obtuvo el doctorado en 1887 y pasó a ser asistente de Röntgen, quien desde agosto de 1888 trabajó en Wurzburgo.
Llevó a cabo un estudio de dos años sobre los índices de refracción de distintos cuerpos en diversos estados de agregación mediante el interferómetro de Jamin. Más tarde, con el propósito de separar de manera arbitraria los dos haces de interferencia, construyó un nuevo interferómetro refractor —posteriormente denominado de Mach-Zehnder—, que presentó en agosto de 1891. Ludwig Mach había ideado, de forma independiente, un dispositivo semejante, que dio a conocer siete meses después.[2]
Zehnder fue un experimentador experto. Desarrolló la descarga luminiscente que lleva su nombre y realizó, a finales del siglo XIX, experimentos con tecnología de alta frecuencia.
Se opuso tanto a la teoría de la relatividad como a la teoría cuántica, y elaboró una teoría mecánica propia del universo. Esa línea la difundió, ya a finales del siglo XIX, en libros de divulgación, lo que contribuyó a su aislamiento dentro del ámbito científico. Ya en 1890 su amigo Röntgen le había advertido por carta sobre su tendencia a la especulación sin base suficiente,[3] y continuó repitiéndole esas advertencias; Zehnder, sin embargo, persistió en su intento de formular un enfoque sustentado en una visión del mundo basada en la mecánica clásica y en el concepto del éter elástico, que constituyó el centro de su interés por la física.
Poco después del descubrimiento de los rayos X, en 1895, y de las primeras radiografías del cuerpo humano, en 1896, realizadas por Röntgen, Zehnder efectuó demostraciones públicas de ese hallazgo y desarrolló y construyó sus propios dispositivos de rayos X. En particular, fabricó en Zúrich tubos de rayos X de metal en lugar de vidrio, con lo que redujo de forma considerable la exposición a la radiación del personal médico.
También produjo las primeras imágenes del esqueleto proyectando rayos X a través del cuerpo humano.