従八位下の位階にあった慶雲4年（707年）5月に隔絶の地への使者として赴いたことを理由に、巨勢邑治・賀茂吉備麻呂らと共に、文武天皇からあしぎぬ・綿・麻布・鍬および籾を賜与された[1]。なお、巨勢邑治は大宝2年（702年）の第八次遣唐使にて副使として渡海し、この年の3月に唐より帰国していることから[2]、古麻呂もこの遣唐使に同行したものと考えられる。
元明朝の和銅6年（713年）従五位下に叙爵する。聖武朝の天平元年（729年）長屋王の変後に行われた叙位にて従五位上に、天平4年（732年）下野守に叙任された。また、時期は不明ながら上総守も務めた。
『懐風藻』に「五八の年を賀く宴」の題の漢詩作品（五言詩）が採録されている。