瑞麟庵本不是庵，原址为“镇水庙”，但一度时间庙里无人居住。明崇祯年间有几位尼姑化缘到此，见庙宇空闲，地处乡间，难得清静，便据庙为庵。后因尼庵上空突然现出状似麒麟之物，时人以为祥瑞，因而称为“瑞麟庵”。
据骆氏家族谱牒记载，骆姓自元初时因避乱徙居虹乡，俟后家族稍有宽裕，于明朝宣德年间（1426-1436）设立家堂庙，占地约30亩。其后于顺治11年（1654年）、道光四年（1824年）、咸丰五年（1885年）、1996年、2008年先后5次重修，其中顺治11年，道光四年，咸丰五年留有碑文，现存于庵中。
泗县人民政府于2003年12月将瑞麟庵列为县级重点文物保护单位。
2008年由泗县人民政府出资10万元及当地村民集资重建瑞麟庵。
2010年12月，泗县人民政府再次将瑞麟庵列为县级重点文物保护单位。
