平顶山香山寺位于中岳嵩山之南约百公里，平顶山市新城区北3公里，巴山山脉香山峰顶，全称香山普门禅寺。历史上因行政区划归属之变迁，曾称“汝州香山寺”、“宝丰香山寺”，是现在已知的中国早期佛寺之一，在中国佛教史和观音文化史上具有重要的不可替代的地位，其宗教根文化特征非常突出。
平顶山香山寺建于东汉末期，大约在汉灵帝光和年间，比白马寺晚约百余年，历经汉、魏、晋、南北朝、隋、唐、宋、元、明、清，迄今已有1800多年的历史`。由于地处中原，受朝代更替、兵火战乱的影响，屡毁屡建。上世纪五十年代，还有部分明清所建殿堂，文革时尽遭破坏，僧人被赶走，殿堂被拆毁，如今的香山寺建筑群除千年宝塔和十几通古碑外，都是文革后依靠民间力量和政府支持逐步恢复起来的。
历史上的平顶山香山寺规模宏大。其主要部分依据香山山峰圆润的天然地理形势，一直保持着以塔为中心、四面配以殿堂的曼荼罗式布局形式。整体分布上横跨三座山峰，呈现出以香山为中心，以东西龙山为两翼，前出山脚，包括西院和南院的格局。同时还有很多分布在周围地区的下院。历代香山寺，一般都建有山门、金刚殿、天王殿、韦陀殿、关圣殿、弥勒殿、四面佛殿、观音殿、大雄宝殿、伽蓝殿、祖师殿、六祖殿、地藏殿、广生殿、山神殿、包公殿、藏经殿、法堂、禅堂、客堂、钟楼、方丈以及魁星楼，还包括佛塔、墓塔、经幢等建筑。
据文献记载考证，宋、金、元、明时期香山寺的规模不断扩大，明代时达于鼎盛。宋绍圣四年（1097），朝廷颁旨明确了香山寺四至，总面积大50多平方公里。历代朝廷赏赐的田地累计2万多亩，山林1万多亩。金大定二十五年（1185），金世宗次女唐国公主与驸马都尉、上护军广平郡开国侯乌林答天赐，捐资重建香山寺，规模“有倍于初”。据金代古碑记载：“自宋元符以来，住持相因修葺，轮换美孚。”元代至元十五年（1278），根据玉峰妙鉴禅师奏请，皇帝颁旨，刻立了《香山寺地界公据》 ，进一步确定了四至范围，香山寺改称“香山十方大普门禅寺”。明天顺二年（1458），英宗敕赐“香山大普门禅寺”匾额，山与寺日盛。此时，香山寺有下院16处，分布在宝丰、鲁山、郏县、方城、密县，是名符其实的豫西南地区的佛教中心。
清末以后香山寺渐趋衰落。改革开放以来，香山寺逐步得到恢复。
香山的名称来自于佛教经典。佛祖释迦摩尼出生地迦毗罗卫国都城附近有座山叫香山，佛祖和弟子们经常在香山里修行，因此，《华严经》在排列佛教十大名山时，香山仅次于须弥山（即雪山喜马拉雅山），是名列第二的佛教名山。
当佛教传入中国后，香山之名随之而来，很多地方修建了香山寺，之后便将原来的山也改名叫了香山，北京的香山和洛阳的香山都是如此。
在众多的香山寺中，河南平顶山的香山寺有着更多的故事，这里被称为是汉化观音菩萨修成正果的地方。在寺内的观音大士塔里完好地保存着一通石碑，这就是被誉为“三绝碑”的《大悲菩萨传碑》。此碑是北宋元符三年（1100年）所立，由北宋重臣被后世誉为宋代四大书法家之一的蔡京根据史料书写，也被称为蔡京碑。
蔡京碑高2.23米，宽1.46米，共刻有楷书49行。
《大悲菩萨传》碑文，依据道宣天人对话，讲述楚庄王之女妙善铁心向佛，苦心励志，舍身救父，最终涅槃为千手观音的宿世因缘。
传说汉化观音的俗身叫妙善，是庄王的女儿。妙善不听父王劝阻，执意在家乡（今天平顶山市宝丰县）的白雀寺出家。庄王一怒之下，放火烧了白雀寺。妙善被山神救走后隐居在香山修行并得道。庄王后来得了顽疾，经人指点，来香山找到妙善，求其手和眼做药引。妙善为报庄王养育之恩，毅然献出了双手和双眼，帮助父王恢复了健康。世人为了称颂这种知恩图报舍己救人的精神，就把妙善幻化为了千手千眼的观世音。从此，观世音完成了汉化菩萨的身份，变成了无所不能法力无边的神仙，千手千眼可由遇到困难的世人随取随用，并且还能取而复生。这里的香山寺也因此被称为是真香山和观音祖庭。
也因为妙善的故事，这里被称为是汉化观音菩萨第一道场，平顶山也因此被称为中国的观音文化之乡。普度众生大慈大悲千手千眼的观音菩萨就被供奉在寺里的大慈悲殿。
进入山门，中轴线上依次修建了天王殿、大慈悲殿、四面佛殿等，东西两侧分布着钟鼓楼、祖师殿、伽蓝殿、客堂等建筑。
寺内最古老的建筑只剩下了观音大士塔。观音大士塔矗立在香山顶峰，是香山寺的标志性建筑。
这是一座建造于宋代的千年古塔。观音大士塔为八角九层楼阁式砖石塔，高33米，其前身是东汉末期与寺院同时建立的四方形木构楼阁式塔。现存的塔为宋神宗熙宁元年（1068年）敕建。根据文献记载考证，塔下有地宫，存放有舍利法物。塔的轮廓呈抛物线，远观如圆锥体，状如子弹头。
第一、二层为仿木构塔檐结构，均以青砖叠出檐5～9层，青砖上雕饰着各种花纹图形，精美绝伦。塔的第二、三层外壁设壁龛五排，共304个龛佛，内置坐佛，其中千手千眼观音菩萨像共有35尊，姿态各异，雕刻精美，堪称宝塔一绝，寺院重宝。
1986年，香山寺观音大士塔及宋代蔡京碑被公布为河南省第二批文物保护单位。