(网经社讯)10月10日,由中科算网科技有限公司、算泥AI开发者社区联合主编,中国科学技术大学苏州高等研究院联合发布的《AI 大模型与异构算力融合技术白皮书》正式发布。白皮书精准聚焦当前大模型开发领域的核心痛点,致力于为开发者提供全面且实用的技术参考,助力推动大模型与异构算力实现深度融合。
报告背景显示,AI大模型参数规模从亿级跃升至万亿级,算力需求每3-4个月翻番,“逆摩尔定律”凸显,单一架构算力难满足需求,异构算力成必然选择。国内外政策积极推动,中国在用算力中心标准机架达1085万架,智能算力规模788EFLOPS,位居全球第二,但面临高端芯片、核心软件等挑战。
行业现状方面,全球大模型呈参数指数增长与架构创新趋势,国内大模型“提质增效”,开源生态繁荣。算力需求爆发带来训练成本激增、推理需求多样等问题,还面临算力墙、存储墙、通信墙“三堵墙”及成本、能效挑战。全球算力向智能计算转型,中国智算中心建设成效显著,“东数西算”工程推进,异构算力因适配多场景成主流。
技术架构上,异构计算硬件体系中CPU、GPU、FPGA、ASIC各有优劣,国产AI芯片形成多元路线;高速互联技术保障系统性能,智算中心多采用CLOS架构;存储需分层架构应对大模型高要求,分布式存储与数据预处理技术关键。
融合关键技术涵盖软硬件协同优化、大模型并行训练、推理加速部署优化、异构资源调度编排四大方向,通过多种技术提升效率、降低成本。
国内实践中,华为昇腾、寒武纪、阿里平头哥、腾讯等企业各有布局,国家级智算中心与商业云服务商积极探索,开源社区推动生态建设。
行业应用已拓展至互联网内容生成、金融医疗、自动驾驶智能制造等领域,异构算力提供重要支撑。
未来,行业面临算力缺口、软件生态、能效、数据安全等挑战,技术将向Chiplet、存算一体、多模态大模型、算力网络等方向发展,国产产业链与开发者生态将完善,推动算力普惠与行业渗透。