ブエノスアイレスで生まれた。父親のシャルル・アンリ・ペレグリーニ（スペイン語名Carlos Enrique Pellegrini、1800年-1875年）は当時、サルデーニャ王国（現フランス）のシャンベリの出身でトリノやパリで技術者教育を受け、アルゼンチンの政府に技師として招かれ、1828年からブエノスアイレスで活動し、後に画家として働いた人物である。
カルロス・ペレグリーニは法律を学び、1869年に博士号を取得し、1872年にブエノスアイレス州の代議士に選出された。1878年にブエノスアイレス州政府の大臣に選ばれ、1879年に戦争・海軍大臣、1886年に国民自治党(Parti autonomiste national)のミゲル・フアレス・セルマン（Miguel Juárez Celman）が大統領になると共和国の副大統領となった。
1890年にフアレス大統領が辞職した後大統領職を継ぎ、1892年10月12日までその職を務めた。前任大統領者の予算管理によって非常に困難な経済状況を引き継いだが、大統領在任中に、国家財政の整理に成功した。アルゼンチン国立銀行（Banco de la Nación Argentina）を設立した。
任期終了後、1895年から1903年まで上院議員に選出され、1906年には国会下院議員に選出されした。
1906年にブエノスアイレスで亡くなった。*ラ・レコレタ墓地に埋葬
