Non si sa quando, ma appena poté rientrare in Siena, pentito del suo forse impulsivo delitto, si dedicò completamente al servizio degli ammalati e dei bisognosi. Disponendo di proprietà e beni preziosi, li destinò alla fondazione, oppure rifinanziò un pubblico ospedale, detto della Misericordia, radunando intorno a sé un gruppo di concittadini, che sul suo esempio, si dedicavano alle opere caritatevoli e d’assistenza e nel contempo conducevano una vita di povertà.
Vennero chiamati “Frati della Misericordia”, che però non era un vero Ordine religioso, ma solo un’Associazione caritativa, i cui singoli membri seguivano un tenore di vita spirituale, secondo i propri desideri.
Era la caratteristica dei Terziari Francescani o Domenicani o degli Umiliati; dopo la morte del beato Andrea, il Terz’Ordine degli Umiliati, Associazione laica parzialmente trasformatosi in Ordine religioso nel 1201 e soppressa nel 1571, prese a Siena una valenza sugli altri, per cui si è affermato che il Gallerani appartenesse a quest’Ordine.
Già in vita egli godette della fama di santità, fama che aumentò notevolmente dopo la sua morte, avvenuta a Siena il 19 marzo 1251, tanto che il vescovo della città Bandini, nel 1274 concesse una speciale indulgenza a chi visitasse il suo sepolcro il lunedì santo, posto nella Chiesa dei Predicatori.
In seguito per disposizione di Papa San Pio V (1504-1572), questa indulgenza venne spostata al lunedì dopo Pasqua, com’è tuttora vigente.
A Siena sorse anche una speciale Associazione a lui intitolata, che univa come membri i nobili della città.
Il suo culto fu confermato il 13 maggio 1798 da Papa Pio VI.
La sua festa a Siena si celebra il 20 giugno.