一套山西黑墓碑的主要组成部件有碑板、碑顶、碑柱、栏板、盖板、围板、其他配套部件等等。碑板是最核心的部件，是必不可少的。逝者有关的信息内容以碑文的形式在碑板上呈现；碑顶不一定在所有墓碑的款式中大多数艺术墓碑是没有碑顶的，传统式墓碑的碑顶通常全是以瓦盖或是别的机盖的款式出現；碑柱通常就是指碑板两边的柱头，或许一些款式非常复杂的墓碑会有多对碑柱。同样，这一部分大多数艺术墓碑没有呈现；顾名思义，栏杆板是墓碑背面两侧的栏杆，一般雕刻形式以线雕和浮雕居多；作为放置骨灰盒上部穴位的遮挡，盖板可根据单穴和双穴配置一块或多块；围板是指垂直设置在墓碑底端支撑整个墓碑结构的规格板；其他支撑部件:如栅栏柱、一般圆形球柱、狮子柱等。握鼓，通常放置在半圆形石雕栅栏板的前端；地板、台阶、栏杆等。由此可见一套墓碑真的没有那么简单，所需要的石材制度各方面必须满足雕刻需求。
