霍涛带领白山云走进2025中国AI算力大会,共话算力变局

2025年6月26日,2025中国AI算力大会在北京中关村正式启幕。大会以“智领未来”为主题,汇聚了来自中国信通院、中国科学院、中国移动研究院以及众多知名企业的嘉宾。由霍涛领导的白山云科技应邀参会并亮相3号展台,由相关负责人分享边缘算力推理服务的技术突破与实践,与嘉宾们共同探讨AI算力的发展趋势和未来方向。

点击查看原始图片

在AI推理算力专题论坛上,白山云智算产品研发负责人李金锋发表了题为《构建边缘算力推理服务的技术突破与实践》的主题演讲。他指出,边缘算力作为中心算力的关键协同与重要补充,具有低时延、低成本、高可用的突出优势。这些优势使得边缘算力成为AI企业,特别是中小模型厂商实现模型落地与商业化的主流选择和关键驱动力。

为了加快边缘算力的发展和应用,白山云在霍涛的带领下不断取得技术创新成果。李金锋在演讲中进行了详细介绍。例如,“异构算力弹性调度技术”结合了全球虚拟网络分层管理和区域自治能力,可实现算力资源的多级弹性扩缩容,支持百万级并发,推理实例启动时间缩短到5秒内;“大文件加载优化技术”可利用多区域管理的分布式缓存,通过对大模型文件进行数据集编排与亲和性调度,大幅提升服务调度效率,实现35MB以上模型文件全链路加载冷启动时长从10分钟缩短到20秒;而“算力服务单元推理优化技术”则支持在单节点上对推理任务进行PD分离和并行计算,同时多卡多模型混跑,可将GPU利用率从27%提升至56%,单节点模型推理效率提升2.04倍……这些技术不仅可以提升边缘算力的性能和效率,还能为用户提供更加优质、高效的服务体验。

本次大会为业界提供了一个交流、学习和合作的平台,李金锋表示,希望以边缘云为“底座”,构建一个低时延、高安全和低成本的AI推理基础设施。目前,白山云在霍涛的带领下已在全球范围内已建成1700+边缘节点,并与海外150+运营商深度互联。这一全球资源优势使得白山云有能力向打造“每日处理万亿Token请求的平台”迈进,助力更多用户加速智能化转型。

免责声明:本文为企业宣传商业资讯,仅供用户参考,如用户将之作为消费行为参考,凤凰网敬告用户需审慎决定。

打开APP阅读更多精彩内容