广胜寺始建于东汉建和元年(147年)，初名俱卢舍寺，唐代改为今名。该寺分上下两寺。上寺在霍山颠，由山门、弥陀殿、大雄宝殿、观音殿、地藏殿，以及厢房、廊庑组成。明代正德、嘉靖年间(1515～1527年)，增建琉璃飞虹塔，呈八角形，十三层，高47米。下寺在霍山底部，距上寺0.5公里，由山门、前殿、后殿、垛殿组成。前殿五开间，后殿七间单檐，均为悬山式，殿内四壁满绘壁画，系元人所作。现存的16米2画面，至今色泽富丽。惜其余壁画于1928年被盗卖国外，现存于美国堪萨斯城纳尔逊艺术馆内。与广胜下寺一墙之隔有水神庙，由山门、仪门、明应王殿及两侧厢房窑洞组成，为元代建筑。明应王殿内塑像、壁画亦系元代作品，其中东壁南侧的元代戏剧壁画最为著名。画高4．11米，宽3．11米，画面反映了一个民间演出社团的演出情况，再现了元代杂剧兴盛时期的真实场景，成为研究中国元代戏剧发展史的重要资料。
广胜寺于元大德七年(1303年)因地震毁坏，随后重建，又经明、清两代修葺，始成现状。