La columna data de finales del siglo II o principios del III. Junto con otras once columnas formaba la conocida como pérgola en el presbiterio desde finales del siglo VI. En el siglo XII, Petrus Mallius consideraba que estas columnas formaron parte del Templo de Jerusalén y anteriormente del templo de Apolo en Troya.
Hacia finales del siglo XII y durante el siglo XIII se constituyó una tradición según la cual una de estas columnas (en concreto la situada en el punto noreste de la pérgola era aquella en que Jesucristo se apoyaba durante sus prédicas al pueblo judío.[1] Se atribuyeron a la columna poderes de sanación en especial para las personas poseídas. Por este último motivo se conocía también bajo el nombre de colonna degli spiritati.[2]
En 1438, el cardenal Giordano Orsini la rodeó de una barandilla de piedra decorada con motivos heráldicos y una alta reja. La barandilla de piedra específicaba en una inscripción el pretendido origen salomónico de la columna:
de Salomonis templo
En 1513 la columna se separó de la pérgola del presbiterio de la basílica y se trasladó a distintos lugares de la basílica antigua.
Los estudios arqueológicos alrededor de la Colonna Santa se iniciaron a finales del siglo XIX, especialmente con motivo de su traslación desde una capilla al sur de la capilla de la Piedad en la basílica vaticana, a la propia capilla de la Piedad en 1888.[3]