当日は早朝から陰鬱な雨模様であった。午前9時、霊南坂官邸を出発した霊柩には、陸軍の寺内正毅、乃木希典、大島健一、村田経芳、海軍の東郷平八郎、山本権兵衛、斎藤実、上村彦之丞、瓜生外吉、島村速雄ら日露戦争歴戦の将軍が棺側につき、群衆の哀悼の叫びの中を日比谷公園へと向かった。沿道は未曽有の雑踏を極め、国民は戸ごとに弔旗を掲げてその死を悼んだ。原敬は日記に「実に盛大なる葬儀にて、これまで執行したる国葬中においても、いまだかつて見ざる所なり」と記している[注釈 1]。
午前10時30分、霊柩は日比谷公園の式場に入り、広庭南寄りに設けられた斎場の中央に安置された。棺の前には大勲位菊花章頸飾をはじめとする内外の勲章20余個が並べられ、左右には天皇、皇太子から贈られた榊、さらに各国元首や皇族から贈られた花輪が飾られた。喪主は伊藤博文の長男伊藤博邦であったが、当時洋行中であったため出席できず、代理として伊藤文吉が務めた。葬儀掛長は枢密顧問官杉孫七郎が務め、国葬儀仗兵指揮官を川村景明が務めた。葬儀掛員、文武官、軍事参議官らがこれに従った。
式典には親族のほか、山縣有朋、大山巌、松方正義、井上馨、東郷平八郎らの大勲位受章者、侍従長徳大寺実則、桂太郎首相以下の閣僚、文武大官、徳川慶喜・大隈重信らの華族、両院議員、ニコライ教主、キッチナー元帥なども含め、各宗派管長ら約5000名が参列した[7]。
斎主は大教正千家尊弘で、勅使や皇族の使者に続き、韓国皇帝や各国元首の名代も玉串を供え、葬儀は12時10分頃に終わった。儀式後、霊柩は馬車に移され、親族とともに大井の墓地へ向かった。午後2時40分埋葬地に到着し法会式となった。
大井の墓所は、伊藤が藤井清子（博文の孫）を伴って散策中に「よい松だ、恩賜館の庭に植えよう」と語った赤松のあった場所に築かれたと伝えられる。
