铁佛寺原名开元寺，始建于唐朝开元年间（713-741年）。原址在于城(今人民公园及以南地带)西120步（合190米）开元寺的东南隅。开元寺自建寺以来屡遭火灾，佛像多次被毁坏。后来，寺院有个和尚叫鉴真，他决定要造一尊永久不化的佛像，于是他到处化缘，直到宋天圣元年（1025年）终于铸就一尊铁观音像。元末，开元寺又毁于战乱，只剩下铁观音像。明朝洪武二年（1369年）寺院搬迁到现在的地方，改名为铁佛禅寺，到了宣德八年（1433年），又铸造了释迦牟尼、文殊、普贤三尊佛像，到了清朝同治年间（1862-1874年），又遭受兵灾，只剩下四尊铁佛像立在露天。由于遭受风吹雨打，三尊大佛上出现了大量锈点，唯有铁观音像没有腐蚀生锈。清同治十三年（1874年）重建观音殿，光绪初年重建铁佛殿，四尊佛像才重新承受人间香火。
“文革”期间，铁佛寺成为红卫兵破四旧的对象，三尊大佛被砸碎后送到钢铁厂熔化，第二天又准备去砸铁观音，可是却怎么也找不到踪影，原来在当天半夜里，铁佛寺老和尚冒险把铁观音藏在泥沙堆里，因此才幸免于难，可见这尊铁观音的造化有多深了。
观音殿中供奉的就是铁观音，观音像两边是善财和龙女胁侍。观音像高2.15米，重约1.5吨，身体向右侧立，面颊丰满，双手交叉胸前，似乎正在谛听梵音，赤脚站在莲花座上，体态呈“S”形，而莲花座倒扣在地，与一般的不同。其造型艺术上，脸微胖，承盛唐丰腴遗风，身材苗条，开宋代俊丽先声，仪态端庄，神姿飘逸，是一尊罕见的艺术珍品。美国、法国、意大利、丹麦、日本诸国，都有代表团和艺术家前来参观，赞誉铁观音是“东方维纳斯”。
这尊铁观音还有一个独特的地方，就是每年一到梅雨季节来临，她就会满身是汗，全身湿透，但只要开了门经风一吹就会干，但却历经九百多年风霜而全身不锈蚀，但右肩上十几年前补铸的部分却是锈迹斑斑。足见古人铸造和冶炼技术的高超。据分析，铁观音像的铁质中还含有钛、锰、铬等13种稀有金属元素。
铁佛寺有五件镇寺之宝，还有四件分别是：元代书法家赵孟頫写的“天宁万寿禅寺”碑；清末红顶商人胡雪岩捐赠的日本铜钟；唐经幢；明朝古井。
“天宁万寿禅寺”碑又名九书额，碑上六个大字是元代书法家赵孟頫写的，碑高2.36米，宽1.68米，字长0.75米，宽0.65米。这六个大字中，其中“天”字写得最得意，有“天下第一天”的说法。六字颇有赵体书法圆转秀清,妍媚妙丽的特色，但却没有落款，这中间还有一段传说：
赵孟頫晚年返回故乡，常常与当地天宁万寿禅寺的淳明方丈（外号孤独长老）谈佛论道。孤独长老多次要求赵孟頫为他书写“天宁万寿禅寺”的山门匾额，赵孟頫也决心把这六个字写得足以流芳百世，他一次次聚精会神地写过，可是，总感觉不是整体气势不足，就是个别字笔画不工整，所以一连写了八次，都不能感觉到满意。
一天赵孟頫来到寺院，随意走进厨房，看见一张大桌子积满灰尘，忽然起了在桌面上书写的念头，但手头无笔，正好看见有半块抹布，便抓在手中，就在桌上写下了“天宁万寿禅寺”六个大字。孤独长老进来看见这六个字，当即宣布将桌子移入禅房加以保存，并请来雕刻家直接把桌面刻成匾额，悬挂在山门上。由于当时是在桌子上书写的这几个字，所以无法落款，留下了些许的遗憾。
现在的“天宁万寿禅寺”碑，就是当年从桌面匾额拓下后勾刻下来的。这块石碑1978年从天宁寺遗址移到铁佛寺保存。
whdgm期间，也曾被红卫兵当作四旧想要砸毁，当时一个有心的红卫兵自告奋勇砸碑，他小心翼翼的将碑砸成6块，每块上都有一个字，并字面朝下，用泥土覆盖，这才保存了下来，所以现在看见的碑虽然是原物，但已经不是浑然一体，而是碎裂后拼凑起来的。
日本铜钟铸造于日本宝永三年（1706年），钟高1.6米，重1.5吨，钟上刻有胡光墉的名字。
胡光墉（1823－1855）清代著名徽商，字雪岩，绩溪县湖里村人。胡光墉早年家境贫苦，经同乡引荐，前去杭州阜康钱庄当学徒，由于工作勤恳、言行稳重，而且善于经营，颇受钱庄主人赏识。庄主临死之前，考虑到自己没有后代，决定将钱庄赠送给胡光墉，他于是一变而成富商。此后，胡光墉开始以商人身份涉足政治活动。1861年，当太平军与杭州清军激战时，他组织一批人从上海采运军火和粮食运往杭州。1862年，他协助左宗棠与法国人联组常捷军。1866年，又协助左宗棠创办了福州船政局，并为左宗棠办理采运事务，代借内外债1250多万两。由于胡光墉为左宗棠及湘军竭心尽力，因而在左宗棠等人的推荐下，被授于江西候补道职务，并且依靠湘军的势力，在全国广设当铺和银号，成为富甲江南的特大官商。1872年，胡光墉在杭州创办胡庆余堂国药号，不惜重金聘请江南名医和著名药剂研制专家，精心配制400多种中成药，并雇人穿上胡庆余堂字号的甲马，停立杭州名要道，施药于百姓。胡光墉的这一系列活动，使胡庆余堂名声大振，药店所制诸葛行军散、八宝红灵丹、紫雪丹、胡氏辟瘟丹等药品畅销全国，与北京同仁堂一起平分中国药业秋色，成为驰名中外的中药老店铺。胡光墉为发掘中国药学遗产作出了重大贡献。1884年，在外国资本的倾轧和冲击下，胡光墉破产。
胡光墉游日本的时候，正是日本明治维新时期，对佛教非常冷漠，他乘机收购了铜钟八口，运回国内分别赠送给了八家寺院，现仅存杭州岳庙和湖州铁佛寺两口。铜钟口径0.9米，高1.6米，重1500公斤，钟顶原先是双龙钮，后改为铁钮。
日本铜钟旁边有一口锈迹斑斑残破不全的铁钟，就是“西林铁佛禅寺铁钟”，这口钟是铁佛寺在民国七年（1918年）为鉴真大师授幽冥戒时铸造的，铸成时已经是 20年（1931年），前后用了13年。
“西林铁佛禅寺铁钟”旁就是唐代经幢，也称“尊胜陀罗尼经”经幢。这经幢原来也藏于天宁寺，是1978年移到铁佛寺保存的，经幢原来有六幢，呈八角形，宝盖和莲花座都已经没有了，其中三幢都只剩下一段，现在合为一体，由于年代久远，经幢表面风化严重。据考证这些经幢是分三次建成的：第一次是唐会昌三年（843年）十月建，唐大中元年（847年）十一月重建，刻有《尊胜陀罗尼经》以及序；第二次是唐大中十一年（857年）四月建；第三次是唐大中十二年（858年）四月；经幢所刻的内容是盛行于唐代的佛经。经幢的石质是世界上有名的“长兴灰岩”。长兴灰岩是经国际地质界命名的，位于湖州市长兴县煤山一带露出地面的一条厚约50多米的灰黑色条纹硅质或白云质石灰岩，它形成于二亿三千万年以前，是世界灰岩的晚二叠最高层位。
前殿的右边有一口古井，是明朝宣德年间挖的。明宣德八年（1433年）铸三尊铁佛，当时还挖了几口水井，由于时代变迁，现仅存下这一口。井圈是上等白石，呈瓜棱形，内径0.35米，井深2.55米，井有500多年的历史，无论天旱水涝，总是不深不浅，不污不蚀。
