这个故事说的是一个少年为了救出被压在华山底下的母亲，历尽千辛万苦学成本领，最终劈开华山、母子团圆的孝心故事。
从前，有个书生叫刘彦昌，他上京赶考，路过华山。华山上有座圣母庙，庙里供奉着华山三圣母的塑像。三圣母是天上的仙女，因为触犯天规，被罚在华山上守护神庙。刘彦昌走进庙中歇脚，看到三圣母的塑像美丽端庄，忍不住在墙上题了一首诗，表达仰慕之情。
三圣母被刘彦昌的才华和真诚打动，便化作凡人模样，从画上走了下来，与刘彦昌结为夫妻，生了一个儿子，取名叫沉香。一家三口过着幸福的日子。
可是好景不长。三圣母的哥哥二郎神知道了这件事，勃然大怒。二郎神是天上的大将，法力无边，他一向铁面无私，觉得妹妹私嫁凡人，犯了天条，简直是给天家丢尽了脸。他带着天兵天将来到华山，要捉拿三圣母回去治罪。三圣母不肯屈服，便和哥哥打了起来。可三圣母的法力终究敌不过二郎神，被他压在华山底下，用一道神符镇住，永生永世不得出来。
刘彦昌失去了妻子，悲痛欲绝，只好独自带着小沉香过日子。沉香一天天长大，渐渐从父亲口中知道了自己的身世。他年纪虽小，却有一颗无比坚定的心，他对父亲说：“我要去学本领，救出母亲！”
沉香告别父亲，踏上了漫漫的寻母之路。他翻过了无数座大山，趟过了无数条河流，脚上磨出了厚厚的老茧，衣裳被荆棘撕成了布条。他一路上打听母亲的下落，四处拜师学武。
后来，沉香找到了霹雳大仙，跪在他面前苦苦哀求，请他收自己为徒。霹雳大仙被沉香的孝心感动，收下了这个徒弟，把毕生的武艺和法术都传授给了他。沉香勤学苦练，夏练三伏，冬练三九，不知流了多少汗、吃了多少苦，终于练成了一身惊天动地的本领。临下山时，霹雳大仙赠给他一把金光闪闪的开山神斧，说：“拿着这把斧头，去救你的母亲吧。”
沉香一路杀回华山，在华山脚下找到了被镇压的母亲。他望着那座高耸入云的大山，举起开山神斧，运足了全身的力气，大喝一声，猛地朝华山劈了下去。只听“轰隆”一声巨响，地动山摇，天崩地裂，那巨大的山峰竟被沉香一斧劈成了两半！
山石崩裂之处，万道金光涌出，三圣母从山底下缓缓走了出来。沉香扔掉神斧，飞奔上前，一把抱住了母亲。母子俩抱头痛哭，泪水流在了一起。从沉香幼时被抓走到如今，母子分别已经十几年了。多少个日夜的思念，多少年积攒的委屈和心酸，都化作了这一刻的泪水。
这时候，二郎神闻讯赶来，还想阻拦。沉香挺身上前，与二郎神大战起来。沉香的武艺今非昔比，又有开山神斧在手，二郎神竟敌不过他。眼看两人打得难解难分，天上飘来一朵祥云，太白金星捧着玉皇大帝的圣旨来了。玉帝被沉香的孝心所感动，赦免了三圣母的罪过，封沉香为仙家，让他们一家三口团圆。
从此，沉香的孝心故事流传了千百年。那柄开山神斧化作了天上的星星，有人说就是北斗七星中的那几颗。而华山上至今还有一道深深的裂缝，据说那就是当年沉香劈山救母时留下的斧痕。