Le square Carnot a été réalisé après l'aménagement du quartier Carnot, vaste casernement de cavalerie implanté en face du château de Vincennes en 1889.
Il a été créé en 1890 avec une superficie actuelle de 9 714 m2.
Le jardin était séparé en deux parties dont ne subsiste que la partie ouest. Aménagé dans l'esprit des jardins haussmanniens, il en a conservé l'ambiance romantique.
Un petit cours d’eau artificiel traverse le jardin. Il est bordé de plantes vivaces (Hosta, Rodgersia, Ligularia, eupatoire…) au large feuillage et de plantes aquatiques, essentiellement des nymphéas, mais aussi des Equisetum, des Typha, des Cyperus, des Juncus.
Des végétaux de l’époque, seuls subsistent quelques arbres qui ont survécu à la tempête de 1999.
Parmi les témoins les plus anciens du square :
Ce square est régulièrement distingué lors des concours des décorations florales estivales, événements internes à la Direction des espaces verts et de l’environnement qui mettent en concurrence les ateliers de jardinage.
En 2010, le square a obtenu la labellisation jardin écologique.