No barrio de Conxo , na parte sur da cidade, atopámonos co mosteiro de Conxo.
Segundo os datos históricos que se conservan, o arcebispo Xelmírez manda construír no ano 1106 un mosteiro para albergar a primeira comunidade relixiosa en Galicia e para iso elixe facelo sobre unha pequena e destartalada igrexa pre-románica anterior ao século X dedicada á virxe da Concha. Inaugúrase no ano 1129 tal e como podemos observar nunha inscrición no interior do claustro.
O arcebispo mandou poboar a zona con árbores froiteiras e viveiros de peixes para o abastecemento das relixiosas. Cóntase, por tanto, coa que pode ser unha das primeiras piscifactorías da historia, a cuxo recordo se erixe en 1953 un monolito no núcleo de Torrente, cuxa inscrición di:
“A Don Diego Xelmirez, que mandou construír no ano 1129 un criadeiro de peixes para que as augas do río tiveran para o común unha riqueza tan importante para a vida das clases humildes como é a piscícola”.
Servizo Nacional de Pesca Fluvial. Ministerio de Agricultura.

As monxas habitaron o mosteiro ata finais do século XV momento en que se trasladaron a San Paio de Antealtares debido á reforma monacal realizada en tempos dos Reis Católicos .
O mosteiro queda abandonado uns anos pasando a ser habitado por uns monxes da orde dos mercedarios, recibindo o nome de Mercé de Conxo. Co paso dos anos chegou ser un dos Conventos mercedarios máis ricos de España. Os monxes alongaron a súa estancia no mosteiro ata o século XIX, momento da desamortización en España, cando se mudaron a Poio (Pontevedra).
A partir de aquí barállanse varios proxectos para o mosteiro entre eles o seu derrubamento. Entre 1883 e 1885 o cardeal Payá manda construír un hospital para enfermos mentais inaugurado o 1 de Xullo de 1885. O recinto pronto quedará escaso polo que se necesitará ampliar. En 1902 é inaugurado o novo edificio, anexado á parte antiga.