1959年，国外引进的两条湿法窑建成投产
1958年4月18日，根据国家“一五”计划，国家计委全套进口2条当时国际最先进的水泥生产线，在选址浙江江山后，正式动工建设浙江省第一家现代大型水泥企业——江山水泥厂。
这是江山南方的前身。这家举全国之力兴建的水泥厂，一时汇集了1000多名来自全国各地的建设者。他们的梦想就是建设我国自己的水泥厂，建造世界最先进的水泥生产线，支援国家建设。1959年，年产20万吨的2条生产线相继建成。当年，《人民日报》头版发表社论《增产更多更好的水泥》，报道江山水泥厂建成投产的消息，鼓舞了全国人民投身建设祖国的人心和士气。
1978年，国家实施改革开放政策，项目建设水泥用量大增。为更好支援国家建设，1980年企业上报新建3号窑项目。这是江山水泥厂的第一条全国产化的生产线，当年《人民日报》以《挖潜大有可为，改造设备扩大生产能力》为题，头版报道江山水泥厂第三条生产线正式开工的消息。此后，企业自力更生、不断技改扩建，到1997年已拥有6条湿法生产线，水泥年产能突破百万吨。
2001年，根据政府要求，江山水泥厂成功改制为民营企业——浙江虎山集团。此后，虎山集团迅速进入发展快车道，短短4年间先后技改实施2条日产1000吨全国产化“湿改干”生产线，在本地和异地新建3条日产2500吨新型干法生产线，全面淘汰湿法生产，年水泥产能突破400万吨。
2006年，一场席卷水泥行业的恶性竞争袭来，产能严重过剩的浙江水泥企业陷入一片混战，虎山集团审时度势，应宋志平董事长之邀，在杭州西子湖畔“汪庄会谈”之后成功加入中国建材集团。2007年7月与中国建材集团正式签署企业战略重组合作协议，并新建国内第一条国产化率最高的日产5000吨新型干法水泥生产线。在中国建材集团发展战略指引下，江山南方结合自身实际，扎实推进“三精管理”，同时按照安全标准化、生产清洁化要求，积极创建生态文明工厂。近年来，江山南方吨水泥能耗指标大幅下降，劳动生产率不断提高，多次被南方水泥授予模范单位和最佳绩效企业，2018年企业实现净利3.3亿元，创历史新高。据统计，加入中国建材11年来，江山南方累计实现净利润11.37亿元，上缴税收9.09亿元，实现了良好的经济效益和社会效益。
60年一甲子，从国企到股份制到民营再到回归央企，企业四易其名，历经60余年大浪淘沙般的市场洗礼，赢得了无数的荣耀。公司先后荣获全国文明单位、全国精神文明建设先进单位、全国“五一”劳动奖、全国模范职工之家、全国建材行业先进集体等80多项国家和省部级荣誉。同时，公司高品质的产品在不同时代被广泛用于国家重点工程，书写了一个个时代的传奇：
50年代，共和国第一座自行设计和建造的新安江水电站;
60年代，长江上第一座国家自己设计建造的南京长江大桥;
70年代，为一代伟人永驻建造的毛主席纪念堂;
80年代，我国第一座自行设计建造的秦山核电站;
90年代，被誉为亚洲第一、世界第二的天荒坪抽水蓄能电站;
新世纪，亚洲第一深水良港洋山码头，以及四通八达的高铁。
这些国家重大工程和地标性建筑不仅是江山南方的骄傲，更见证了我国水泥行业的发展、见证了我国社会主义各时期的建设。江山南方浓缩了我国水泥工业发展的历程，是中国水泥行业的“活化石”。
