1925年3月12日，孙中山在北京因胆囊癌逝世。逝世前一天，孙中山对宋庆龄等人说：“吾死之后，可葬于南京紫金山麓.............”

据说，早在1912年3月，孙中山在紫金山打猎时就曾对胡汉民说：“等我他日辞世后，愿向国人乞此一抔土，以安置躯壳尔。”遵照孙中山的遗愿，遗体在协和医院进行防腐处理后，暂厝在北京香山碧云寺，待陵寝建成后再安葬南京。

紫金山位于南京城以东，东西长约7公里，居中的主峰北高峰海拔448.2米，东峰小茅山海拔360米，西峰天堡山海拔250米，北高峰与天堡山之间是海拔425米的二峰头陀岭，地势险峻，北高峰与小茅山之间是海拔351米的中茅山，地势较为平缓。

为在紫金山上寻找合适的墓址，1925年4月宋庆龄、孙科等葬事筹备委员先后三次登上紫金山实地勘察，提出墓址要高过明孝陵，并且“不可使人再更高处建墓”。经过考察后认为紫金山中部的中茅山最为合适，宋庆龄还表示陵墓应建于南面的缓坡，不宜选在山顶。

葬事筹备委员会决定将紫金山一带数万亩土地全部圈入陵园，但与占据南京的军阀势力反复交涉时，只定为2000亩，远低于预期。直到1927年陵园才扩大到了45870亩。

为迎接孙中山灵柩，南京市从长江边的下关码头至中山陵修建了一条长15公里的迎榇大道，名“中山大道”，所过之处都以“中山”、“逸仙”命名。4月23日，国民政府北上迎接孙中山灵榇前往南京。6月1日为“奉安日”，奉安典礼上孔祥熙率杠夫将灵榇移入墓室，蒋介石主持祭礼，最后，宋庆龄率领孙科夫妇、孙婉夫妇将墓门关闭。

不过，有关孙中山的死因与遗体去向，坊间仍有许多传闻与未解之谜。

历史教科书中一般称孙中山死于肝癌，一般的文史记载也是如此，这是因为他到北京协和医院时被诊断罹患肝癌，并为此进行了手术。但据协和医院保留的孙中山病历文件显示，孙中山罹患肝癌并非其原发病症，肝藏的癌细胞是由胆囊癌和胰腺癌转移而来。

孙中山去世后，遗体葬于南京中山陵，但后来因日军侵华，孙中山遗体也经历不少风波。

最初日军攻下上海往南京进发时，担忧陵墓遭破坏，原打算开墓取出孙中山棺柩与遗体，但亦担忧墓葬打开仍会伤及棺柩与遗体，最后决定保留不动。

南京保卫战期间，教导总队奉命在紫金山布防，当时构筑的工事和堡垒至今仍分布于陵园各地。中山陵警卫大队也参加了保卫陵园的战斗，共有24人战死或被害。战争期间，陵园的花房温室、奉安纪念馆、永慕庐、桂林石屋、永丰社、中山文化教育馆以及陵园新村等建筑全部被毁，中山陵墓也遭到一定损坏，奉安纪念鼎上至今仍留有弹孔。

日军攻占南京后，由于孙中山在日本有相当威望，日军未再进一步破坏中山陵园。

蒋介石在撤退大陆曾传出把孙中山的遗体从中山陵中取出带到了台湾，这种传言至今仍有部份人相信，但曾担任孙中山卫士、并在中山陵执行保卫工作的范良曾表示，蒋介石撤退时未提及中山陵，只有孙科临走时对他们说：“他们对先生是尊敬的，你们是先生的卫士，他们不会为难你们的。”

孙中山在北京协和医院去世时，各方都认为应当进行遗体防腐保存，内脏则取出火化。但在日本占领协和医院后，意外发现孙中山的内脏切片和腊块标本，才知院方未将内脏火化，而是保留供研究之用。后来汪伪政权向日本要回了这些切片标本，本想大张旗鼓地将之归葬中山陵，却被上海医院以研究为名借走。抗战胜利前夕这些内脏切片标本又被汪伪官员偷出私藏，还以此要胁政府以求保命，最后在蒋介石严令之下政终于追回标本切片，以及附带的一盒临床纪录照片。这些东西原打算存放中山陵，但后来传言是被孙科带走了。

但据范良曾表示，他曾下到墓室内仔细看过，“我下墓穴揭开玻璃罩，打开红布挡着的五只玻璃瓶，上面写着孙中山先生五脏切片标本”。由于相关当事人皆已去世，孙中山遗体标本是否保存在中山陵或已其后代保管，仍需历史研究者努力发掘真相。