1878年 フランクフルト・アム・マイン生まれ。ミュンヘン工科大学とハノーファー大学で電気工学を学んだ。
ドイツとスイスでいくつかの電気会社で働いた後、1918年にScherbius & Ritter社を設立し、「エニグマ」(ギリシャ語で「謎」の意味)の名称で暗号機を、ビジネス界と軍部向けに販売した。当初、ドイツ軍の反応は冷ややかだった。しかし、第一次世界大戦中のドイツの暗号がイギリスに解読されたことを知ると、エニグマの価値を認めた。1926年、エニグマの1機種がドイツ海軍に採択された。数年後、ドイツ陸軍も同じ機械を採択した。
1929年、シェルビウスは馬車の事故で死亡した。