1925年3月12日，孙中山先生在北平病逝，时年59岁，由于孙中山生前嘱咐“归葬紫金山”，于是暂时就把他的遗体停留在北平的碧云寺内，当时中山陵还没有建造好。

在孙中山去世后北平协和医院对他的遗体做了防腐处理，苏联还特意送来了一口水晶棺，当时的打算是把孙中山先生的遗体放入水晶棺中，以供后人瞻仰，像列宁一样。

可惜由于水晶棺运抵耗费时日，运到北平时孙中山先生的遗体已经入殓好了，水晶棺也就没有用上了，有点可惜，另一边，在南京是葬事筹备委员会公开征集陵墓的设计方案。

31岁的设计师吕彦直的“自由钟”设计图案获得一致好评，在设计方案选定之后，1926年陵墓建造工作正式破土开建，当时的工期计划是14个月，可是由于种种原因，一直到1929年3月才完成主体工程。

就在中山陵建造的期间，发生了一件事差点害的孙中山遗体被焚毁，在1926年，当时革命军打败奉系军阀张宗昌，此人是有名的“三不知”将军，不知自己枪有多少、老婆有多少、兵有多少。

张宗昌被打败逃到了北平，打不赢活着的革命军，一怒之下他就想找死人泄愤，张宗昌下令焚烧孙中山的灵柩，这种军阀一旦疯狂起来，什么事都敢干，不会是嘴上说说。

当时碧云寺中只有少量的护灵卫士，尽管人数少，可都是对孙中山十分忠诚的，这些卫士把孙中山的灵柩转移藏到了寺庙附近的山洞之中，如此才逃过了军阀的毁坏。

1929年，中山陵的主体工程完工，4月23日，何应钦前往北平去迎接孙中山的灵柩，5月26日，灵柩起程由北平往南京移动，28日抵达南京，随后便停灵公祭3天。

6月1日，在中山陵内举行奉安大典，各界要人出席，同时还有各国的使节，送葬的队伍长达3公里，场面十分壮观，可惜的是由于遗体出现损坏，水晶棺没有派上用场。

入葬之后墓室被封了起来，据曾经看守陵园的卫士描述，密封一共有三层，第一层是隔层，第二层是石墙，第三次是最外面的，用是钢筋水泥，密封的非常坚固。

日军全面侵华时，上海、苏州沦陷，蒋介石也要从南京撤退，当时考虑过要带走孙中山先生的遗体，然而由于墓室无法打开，如果用炸药可能损坏遗体，蒋介石只好作罢。

日军占领南京城，在城内肆意杀人放火，不过却没敢对中山陵下手，才得以幸免，如今中山陵完好的被保存了下来。