八宝山为北京西山山前平原上的孤立残丘，高度约130米，山势低缓，呈北东向延伸。附近山间出产耐火土、白土、灰石、红土、青灰、坩土、黄姜、砂石等八种建筑材料，因此被称为“八宝山”。
八宝山南麓原有元朝至正年间海云和尚所建的灵福寺。明朝永乐初年，相传司礼监太监“刚铁”墓修筑于此，旁边建延寿寺，后改名褒忠护国寺。以后成为明朝及清朝高级宦官年老离宫后的世代养老地，有寺庙、农田、菜园。
1949年后，褒忠护国寺及其周围土地为中华人民共和国政府所征用。1950年定名为北京市革命公墓。1970年改名为北京市八宝山革命公墓。
八宝山革命公墓附近有八宝山殡仪馆，是北京市最大的殡仪馆，承担北京市三分之二的火葬任务。周恩来、邓小平、华国锋、李宗仁等中共领导人和党外民主人士均在此火化。在八宝山北麓，另有八宝山人民公墓，附近有老山公墓和老山骨灰堂，均为普通公墓。八宝山古墓群为全国重点文物保护单位。
其实，八宝山原来并非公墓，它在明代时期拥有很多处名胜，例如延寿寺、灵福寺、朝阳庵，在西峰上还建有娘娘庙，其中最著名的是褒忠护国寺。褒忠护国寺又被称为黑山护国寺，建于明朝，是为了纪念当时的名将刚炳而建。黑山护国寺内建有刚炳墓，但经过岁月的侵蚀，如今只剩下墓碑和墓前的石龟了。日本侵华时期，当时的日本侵略者为了纪念其死难的日军，在山上建了一座名叫忠灵塔的塔。1946年，为了纪念抗日战争中牺牲的国民党官兵张自忠等38位将领，忠灵塔被改建为忠烈祠。
解放后，陆续于山上建了八宝山革命公墓、八宝山第二公墓和北京西郊殡仪馆。如今，八宝山因有两大公墓而为众人所知，但却很少人知道其为何被叫作八宝山，难道是因为山上真有八宝吗？
相传，在八宝山脚下的山洞里的确藏有八宝，到底是哪八宝呢？所谓八宝，指的是马牙石、白垩、青灰、红土、坩土、黄浆、板岩、砂岩等八种黏土矿物。
马牙石，又称方解石，主要成分为石英，也是人类最早认识和利用的矿物；白垩，俗称白土子或大甴，白色，质软，是石灰岩的一种，分布很广；青灰，是一种含有杂质的石墨，青黑色，常用来粉刷外墙面或搪炉子，也可用作颜料；红土，是较好的天然地基和筑坝材料；坩土,也称耐火土，是火炉内膛的主要原材料，还能制成耐火砖；黄浆是木器的涂料；板岩常用作制造房瓦及石砚的原料；砂岩是研磨、玻璃、建筑等工业的原材料。八宝山便因此八宝而得名。