假山具有多方面的造景功能，如构成园林的主景或地形骨架，划分和组织园林空间，布置庭院、驳岸、护坡、挡土，设置自然式花台。还可以与园林建筑、园路、场地和园林植物组合成富于变化的景致，借以减少人工气氛，增添自然生趣，使园林建筑融汇到山水环境中。因此，假山成为表现中国自然山水园的特征之一。
园林庭院中人工迭石而成供观赏的小山。《史记·孝武本纪》所载 汉武帝 于 太液池 筑三神山，即假山之类。 唐 郑谷 《七祖院小山》诗：“ 峨嵋 咫尺无人去，却向僧窗看假山。” 宋 司马光 《涑水纪闻》卷二：“王尝作假山，所费甚广。” 清 孙枝蔚 《园中作》诗：“小树初栽将伴老，假山久玩欲同真。”
按照水脉和山石的自然皴纹，将零碎的山石材料堆砌成为有整体感和一定类型的假山，使之远观有“势”，近看有“质”和对比衬托，包括大小、曲直、收放、明晦、起伏、虚实、寂喧、幽旷、浓淡、向背、险夷等。在工程结构方面主要技术是要求有稳固耐久的基础，递层而起，石间互咬，等分平衡，达到“其状可骇，万无一失”的效果。
利用假山大型建筑物特性对园林空间进行分隔和划分，将空间分成大小不同、形状各异、富于变化的各种空间形态。通过假山的穿插、分隔、夹拥、围合、聚汇，在假山区可以创造出山路的流动空间、山坳的闭合空间、山洞的拱穹空间、峡谷的纵深空间等各具特色的空间形式。