中国制作毛笔的工艺有着悠久的历史。据历史考证，早在战国时期就开始使用毛笔作为书写工具。秦汉之后至清末时代，毛笔已成为中国官方和民间书写和绘画的主要工具，并在历代产生了许多著名的书法家和国画家，影响着世界文化的交流和发展。
中国传统制作毛笔的主要材料是兽毛和禽毛，如鹿毛、猪毛、獾毛、熊毛、羊毛、兔毛、黄鼠狼毛、鸡毛等。其中以羊毛、黄鼠狼毛、兔毛为性能最好。根据书画的不同用途，毛笔的笔头大小与长短、笔锋的软硬、笔杆的长短和粗细产生了多种多样，如有衣纹笔、叶筋笔、大兰竹、小兰竹、大白云、中白云、小白云、长锋笔、短锋笔、斗笔等等。历史上安徽宣城、浙江湖州制笔工艺最为有名。画水墨山水画使用的毛笔很简单，可根据画幅的大小一般选用大、中、小不同的笔头各一支即可。
墨汁
中国传统的墨分油烟、松烟两种。油烟以桐油烟、松烟以松烟为原料，添加胶质混合制成。油烟墨黑而有光泽，并可用水调和成浓淡不同的细腻变化。松烟暗黑无光泽。在以往墨制成干燥的块状，用时在砚台中加清水研磨。块状墨叩击时声清响、研磨时细腻，劣质品叩击声音沉闷、研磨时有沙感。现在墨一般制成汁液状，便于使用。画水墨山水画用现在市场卖的书画墨汁即可。
宣纸
中国传统的书画用纸大多采用宣纸，宣纸分分生宣和熟宣两种。生宣吸水性很强，在上行笔落墨后墨色变化丰富。熟宣是在生宣上用矾水加工制成的宣纸，不透水，用于画工笔画。画水墨山水画应选用生宣纸。目前市场上的生宣纸种类很多，尺寸的大小、品质的好坏各有不同。宣纸是用植物的纤维制成，品质依据配料的比例而定，可分为绵料、净皮、特净皮三大类。 绵料：青檀皮约占30%；稻草约占70%。净皮：青檀皮约占60%；稻草约占40%。特净皮：青檀皮约占80%以上；稻草约占20%以下。传统的宣纸产于中国安徽泾县境内的丘陵山区（泾县古时属于宣州府，现属于宣州市管辖，因此称为宣纸。宣纸的品质具有纯白细密、柔软棉韧、久藏不腐的“千年寿纸“美称。画水墨山水画多用于净皮和特净为好。
根据每张纸的尺寸大小，可分为四尺宣、五尺宣、八尺宣、丈二宣、丈六宣等。大尺寸宣纸多用于大型书画。一般来讲在尺寸上选用4尺宣（长4尺、宽2尺）为宜。
根据纸的厚度，可分为单宣、夹宣。 单宣薄，夹宣厚，夹宣是单宣合并而成。画水墨山水一般选用较厚的单宣或夹宣。
其它工具和材料
画水墨山水画除了必备的笔、墨、纸外，还要有调墨调色的磁盘数个、涮笔用的笔洗一个、大小因画幅而定。因为生宣纸有很强的吸水性，落笔后水份就会透过纸背，因此作画时要在纸背平铺毛毡，不能把纸紧贴在桌面上，毛毡的大小因画幅而定。除此而外，还要准备具有吸水性折叠好的试笔纸一块，用来查看笔头墨色和调整笔头水分而用，一般采用用废弃画即可。
画水墨山水画一般以墨色为主，用色很少，备有国画用色的花青、赭石为主，再兼备一些其它的国画颜色即可。