任何一样事物的构成都有一定的构成要素，中国的园林也不例外。总的说来中国古典园林共由六大要素构成：筑山，理池，植物，动物，建筑，匾额，楹联与刻石。
为表现自然，筑山是造园的最重要的因素之一。秦汉的上林苑，用太液池所挖之土堆成岛，象征东海神山，开创了人为造山的先例。现存的苏州拙政园，常熟的燕园，上海的豫园，都是明清时代园林建山的佳作。
不论哪一种类型的园林，水是最富有生气的因素，无水不活。因此，园林一定要凿池引水。古代园林的理水方法，一般有掩，隔，破三种。掩就是以建筑和绿化，将曲折的池岸加以掩映。隔是或筑堤横断于水面，或有隔水浮廊可渡，或架曲折的石板小桥，或涉水点以步石。正如《园治》中所说，“疏水若为无尽，断处通桥”。破是在水面很小时，（如清泉小池）可用乱石为岸，配以细竹野藤，朱鱼翠藻，那么虽是一洼水池，却可令人感受到山野风致。
植物是另一个重要的因素。花木有如山峦之发，水景如果离开了花木也没有美感。自然式园林着意表现自然美，对花木的选择标准也很严格。一讲姿美，树冠的形态，树枝的疏密曲直，树皮的质感，都追求自然美。二讲色美，红色的枫叶，青翠的竹叶，斑驳的狼榆，白色的广玉兰，紫色的紫薇等，力求一年四季，园中自然之色，不衰不减；三讲味香，要求植物淡雅清幽，不可过浓，有娇柔之嫌；也不可过淡，有意犹难尽之妨。四讲境界，花木对园林山石景观的衬托作用，往往和园主的精神境界有关。如竹子象征人品清逸，松柏象征坚强和长寿，莲花象征洁净无暇，兰花象征幽居隐士，石榴象征多子多孙，紫薇象征高官厚禄等。
中国古代园林用种种办法来分隔空间，以达到曲径通幽的效果。最主要的方法是各种建筑的运用。如漏窗的运用，让空间既不是一望无垠，又不妨碍视觉流畅。在漏窗里看，玲珑剔透的花饰，丰富多彩的图案，有浓厚的民族风味和美学价值；透过漏窗，青竹迷离摇曳，亭台楼阁时隐时现，远空白云飞游，造成幽深宽广的空间境界和意趣。园林建筑往往有堂有廊，有亭有榭，有楼有台。人工的石洞，石阶，都显示自然的美色。所有建筑，其形与神都与天空大地等自然环境吻合，同时又使园内各部分相接，以使园林体现自然，淡泊，恬静，含蓄的艺术特色，并收到移步换景，渐入佳境，小中见大等观赏效果。师法自然，融于自然，顺应自然，表现自然——这是中国古代园林体现“天人合一”民族文化之所在，是独立于世界之林的最大特色，也是永具艺术生命力的根本原因。