在中国，有关山神的传说源远流长。成书于二千多年前的《山海经》，就已记载了有关山神的种种传说。《太平广记》里也收录了大禹囚禁商章氏、兜庐氏等山神的故事。《五藏山经》里还对诸山神的状貌作了详尽的描述。
古代中国人民将山岳神化而加以崇拜。从山神的称谓上看山神崇拜极为复杂，各种鬼怪精灵皆依附于山。最终，各种鬼怪精灵的名称及差异分界都消失了，或者你中有我，我中有你而互相融合了。演变成了每一地区的主要山峰皆有人格化了的山神居住。《礼记·祭法》：“山林川谷丘陵，能出云，为风雨，见怪物，皆曰神。”虞舜时即有“望于山川，遍于群神”的祭制，传说舜曾巡祭泰山、衡山、华山和恒山。历代天子封禅祭天地，也要对山神进行大祭。祭山时大多用玉石和玉器埋于地下，也有用“投”和“悬”的祭法，即将祭品鸡、羊、猪或玉石投入山谷或悬在树梢。