1950年代に多摩川で砂礫の大量採取が行われ、牛群地形を構成する平山砂層が露出した。当初は起伏が小さくほぼ平らな地表面であった平山砂層だが、1960年頃には多摩川の侵食を受け牛群地形ができ始めた。1970年代半ばには侵食が進み、もっとも牛群地形らしい形状に発達した。1980年代に入ってからは更に侵食がすすみ、徐々に規模が小さくなっていった。2001年秋、台風の影響により牛群地形はその規模を一気に縮小した。
形成条件として考えられるのはまず岩盤の固さである。平山砂層は半凝固であるがよくしまっており、多摩川の侵食に抵抗でき牛群地形の発達にちょうど良かったと言える。もうひとつに水流の強さである。八高線の橋の下はコンクリートで固められ侵食防止がなされている。そのコンクリートを超えた水は勢いよく川床に落下し、侵食が起こり牛群地形を作り出したと考えられる。しかし侵食が実際に進むのは洪水のときなので、これを実証するのは難しい。