这座山确实在江宁境内，就是区政府后面那座山，东山街道也因此得名，该山又名土山。东晋太傅谢安出仕前一直隐居会稽（绍兴）东山，位登台辅之后，他看中了土山，在此建楼台，植林竹，以模仿会稽东山。建成之后，他常常和朝中贤士、族中子侄来此游宴集会。谢安的复出就是“东山再起”这个成语故事的由来。历史上以少胜多的淝水之战捷报传来之际，谢安正与友人在对弈，对弈的地点就是这东山。淝水之战让东山名扬天下，而历代文人对谢安的崇拜，也使东山成为凭吊的地方。
土山很早就有僧人前来修建寺庙，召集僧徒。南朝梁代以前，山上就建有寺庙，名叫资福院。至梁武帝，改名净名院。有高僧宝志（济公的原型），慕东山之名，来此讲经说法，宝志公的到来，让小小土山成了南京一大佛教道场，东山的名气更大了。清代之后渐渐衰败，上世纪五十年代，寺庙被拆。
东山秋月是古金陵四十八景之一，指中秋节时在东山之上赏月的那般良辰美景。东山是赏月之佳境，故得此雅名。“共上高冈坐晚风，一樽今喜古人同。遥遥片月当杯落，点点飞花入座红。”明代状元焦竑写诗生动描绘了“东山秋月”迷人的景色和深邃的意境。
近些年来，东山进行了出新改造，修建了2公里长的环山路和上山木栈道，翻新改建了“秋月亭”、“太白亭”等历史景点。尤其是为了纪念东晋谢安，新建了“谢公亭”和凉台广场，改造中增加了很多便民、锻炼设施，如今东山已成为江宁市民锻炼休闲的聚集地，重新焕发了青春。
