智源研究院与浪潮信息、北京开源芯片研究院达成战略合作,共筑多元ai芯片开源生态-品玩

2024年12月25日,智源研究院与浪潮电子信息产业股份有限公司、北京开源芯片研究院分别达成战略合作协议,共同打造基于Triton算子库的面向多元AI芯片的开源技术生态体系,赋能大模型与人工智能产业发展。

智源研究院副院长兼总工程师林咏华以及浪潮电子信息产业股份有限公司高级副总裁刘军、北京开源芯片研究院首席科学家包云岗参加签约仪式。

智源研究院于2024年6月推出面向多元AI芯片的开源大模型通用算子库FlagGems,目前FlagGems已经成为了全球最大的、基于Triton的人工智能通用算子库,拥有超过130个大模型高频使用的算子,并在英伟达硬件上取得比CUDA更好的算子平均性能。当前FlagGems已经支持了包括英伟达在内的7家芯片厂商的多种AI芯片,旨在为多元AI芯片提供开源、统一、高效的算子层生态接入方案。(https://github.com/FlagOpen/FlagGems)

在多元算力系统生态建设方面,智源研究院携手浪潮信息,将FlagGems算子库与元脑企智EPAI内置的核心计算框架进行深度融合,旨在确保大模型应用开发能够使用高性能、跨硬件、多框架兼容的算子集合,顺利跨越各类硬件架构,满足多种开发框架的需求。现在,依托基于元脑企智EPAI大模型开发平台,企业可以利用针对大模型应用开发场景优化的先进算子集合,在多种算力平台上高效构建、优化和执行复杂的行业应用算法。在复杂的训练任务及实时性要求严苛的推理场景中,均能实现稳定且高效的运算性能。此外,企业也无需关心多元异构加速卡之间的软硬件差异,真正实现大模型应用在跨算力平台上的无缝开发与迁移。

在开源硬件生态对接方面,智源研究院将联合北京开源芯片研究院,共同推动Trtion算子库与RISC-V硬件生态的适配与功能扩展,合作优化算子库算子性能;联合研发通用Triton编译器基础架构,解决Triton多元AI芯片适配的通用性问题;联合构建面向RISC-V AI处理器的评测平台,提供全面的评测基准、方法和工具集。

以FlagGems为开始,智源致力于面向多元AI芯片、面向全球的统一、开源、合作型生态。以大模型需求为导向,面向多元芯片,发挥Triton编译器开源及轻量级优势,为产业提供易适配、高性能的算子实现方案,此次,智源研究院携手浪潮电子信息产业股份有限公司、北京开源芯片研究院,将进一步推动基于Triton的统一、开源生态发展,为大模型和人工智能技术产业落地提供创新活力。

打开APP阅读更多精彩内容