中科加禾聚焦编译技术,公司着力打造通用化、低成本、高性能的基础软件工具链,为用户提供AI应用跨多种CPU、GPU、NPU执行的统一软件平台,实现大模型应用在国产算力平台上的0成本适配、0损耗执行、0延迟部署。
通过编译优化实现大模型推理架构在算法、系统和芯片各层的垂直整合。
在用户无感的前提下显著提升模型推理性能。
为客户提供跨品牌、跨型号的标准化AI软件底座,可以直接将模型部署在基于国产AI芯片的硬件环境中。
支持服务器侧(数据中心场景)和端侧(个人电脑、移动设备场景)大模型推理。
提供自动化、高效率的CUDA兼容转译整体解决方案。
使得国产芯片能够以更低的成本、更短的周期进入市场。
为用户在开发过程中带来更高的效率和灵活性。
如何申请内测账号