2004年、ソマリアの隣国ケニアで暫定連邦政府が成立した。これはアフリカ連合などの後援で、ソマリアを各氏族による強い地方分権制、つまり連邦制にすることを目的としていた。初代大統領には、プントランドの大統領だったアブドゥラヒ・ユスフがその職を辞して就任した。暫定連邦政府の要職は大統領、首相、国会議長の3つであり、各氏族間のバランスを考慮して決められた。ユスフ大統領は、初代首相にハウィエ出身だが無名だったゲーディを指名した。2004年8月、ゲーディはユスフ大統領ら政府幹部と共に、首都モガディシュに移った[2]。
当時のソマリアは、地方軍閥が群雄割拠していた。暫定連邦政府の閣僚も多くが軍閥の長である。ソマリアの首都モガディシュを占領している軍閥も暫定連邦政府への参加を表明したが、2005年3月に早くも対立した[2]。暫定連邦政府はモガディシュの軍閥と決定的な対立をしたわけではなかったが、ユスフ大統領、ゲーディ首相ら暫定連邦政府幹部はケニアの首都ナイロビに移り、2005年7月にはソマリアのジョハールに移った。
2006年2月、暫定連邦政府はバイドアに拠点を移した。同年3月、アメリカの支援を受けた首都モガディシュの軍閥連合平和の回復と対テロ同盟(英語版)(ARPCT)とイスラム武装勢力イスラム法廷会議(ICU)との間に戦闘が起こり、6月初めにICUが勝利した[3][4]。
その6月、ゲーディはARPCTの軍閥の長ら4名を、政府の停戦命令を無視したとの理由[5]で暫定連邦政府の閣僚から罷免した[6][7]。この罷免は、暫定連邦政府がイスラム法廷会議と協力関係を結ぶための布石として行われたとする説もある[4]。
結局のところ、暫定連邦政府はイスラム法廷会議との対立路線を取った。2006年7月、ソマリアの隣国エチオピアはソマリアにおけるイスラム武装勢力の台頭を嫌い、暫定連邦政府を支援する形でソマリアに進駐した。これにソマリア議会が反発、ゲーディ首相の不信任案が出され、不信任票が信任票を上回るものの、規定数に満たず留任となった。しかし閣僚39人が辞職した[2]。ユスフ大統領は内閣の改造を指示し、ゲーディは長官職を42人から31人に、副長官を80人から44人に大幅に減らした新内閣を発足させた[8]。
2006年12月、エチオピア軍の力を借りた暫定連邦政府は、イスラム法廷会議との戦闘を開始した。戦闘は順調に進み、12月29日にモガディシュ入りを果たした。この際、ゲーディはモガディシュ市民に歓迎されたが、エチオピア軍に対しては投石などの抗議も行われた[9]。2007年1月1日、ゲーディは「モガディシュの軍閥支配時代は終わった」との宣言を出している[10]。ゲーディは3か月の戒厳令を出し、民間武装の縮小と、新しい裁判官の任命を行った[11]。