青木正寛（甚平）を家祖とする青木家に生まれる。実祖父の青木正教（甚五兵衛）は平岡道賢（源兵衛）の三男であり、長国の母も平岡氏の出身である。最初の正室に勝命雅（市郎右衛門）の次女を迎えており、義兄に塩谷奉正（平四郎）、義弟に勝曹淓（安五郎）がいる。
明和5年（1768年）に徳川家治の初御目見する。なお、同年に舅の勝命雅（市郎右衛門）が広敷番頭となっている。
安永6年（1777年）に37歳で父の隠居により青木家の家督と家禄を相続する。翌安永7年（1778年）に大番士となり、寛政5年（1793年）に大番組頭に昇進する。