古诗文中的“南山”大多指陕西省西安市西南的终南山，首见于《诗经，小雅，天保》：“如月之恒，如日之升，如南山之寿，不骞不崩。”大意是：犹如上弦的月。好比初升的日，恰似长寿的南山，不会崩坍陷落。后“寿比南山”常用来比喻人长寿，如“福如东海长流水，寿比南山不老松”。
　　《高士传》载，秦末东园公、绮里季、夏黄公和用里先生四位老者，德高望重，不为权势所惑，隐居终南山而不轻出。后用“南山皓”指年高望重才识过人的隐士，如“送尔长江万里心，他年来访南山皓”(李白《金陵歌送别范宣》)。
　　《史记·李将军列传》载，李广“与故颖阴侯孙屏野居蓝田南山中，射猎”，“见草中石，以为虎而射之，中石没镞，视之石也”。李广在蓝田南山射猎，把草中的石头当作老虎来射，竟将箭射入石中。后常用“射虎南山”形容武艺高强、勇猛过人，如“身老南山看射虎，眼高四海送飞鸿”(张孝祥《望江南》)。
　　《列女传·陶答子妻》载：“妾闻南山有玄豹，雾雨七日而不食者何也?欲以泽其毛而成文章也，故藏而远害。”南山玄豹在雾雨中七天不下山寻食，是为了让雾雨润泽皮毛，使皮毛文彩斑斓，也是为了避免灾祸。后遂用“南山雾”比喻隐退避害或培育才德的社会环境，用“南山豹”比喻不同凡响的人物，如“文章不经世，风期南山雾”(黄庭坚《寄晁元忠》)。
　　《旧唐书·李元舷传》载，李元舷审理案件，秉公而断，他的上司让他枉法屈从权贵，改变原判，李元舷判后说，“南山或可改移，此判终无摇动”。后用“南山铁案”表示绝对不可更改的决定，也借以颂扬执法官吏的公正无私，如“东市朝衣真不测，南山铁案竞无名”(黄遵宪《感事》)。
　　《新唐书·卢藏用传》载，卢藏用中进士后没被封官重用，就利用当时社会的偏见，认为隐士都是不慕名利而又有学问的贤者，采取了以守为攻的策略，隐居在京师附近的终南山，后来果然被朝廷召去。后因以“终南捷径”比喻谋求官职或名利的便捷途径。
　　说到“南山”，不能不提陶渊明。“采菊东篱下，悠然见南山”(《饮酒》)，“种豆南山下，草盛豆苗稀”(《归园田居》)，诗中的“南山”是指江西的庐山，是陶渊明的隐居之处。诗人在南山脚下采摘菊花，锄草种豆，过着无拘无束、自由自在的田园生活。“南山”后来成为与归隐有关的典故，如“东晋图书，南山杞菊，谁识幽居怀抱”(张炎《台城路》)。