高能效架构
自研 AI 计算架构，以极致能效比提供澎湃算力，每瓦性能行业领先，让端侧设备在有限功耗下释放最大 AI 性能。
技术概况
全栈高效能 AI 推理系统
高效能 AI 推理系统是临界维度核心技术之一，涵盖硬件高效能计算与模型高效能推理两大方向。通过自研高能效架构、算子融合、内存优化等技术，将模型推理延迟降至毫秒级，为智能硬件提供强大的推理能力。
- 高能效架构
- 算子融合
- 毫秒级延迟
极致能效 · 即时响应
算子融合
将多个计算算子融合执行，减少内存访问与 kernel 启动开销，大幅提升推理效率。
异构计算
CPU+GPU+NPU 异构协同，根据任务特性智能选择最优计算单元，实现性能与功耗的最佳平衡。
内存优化
智能内存分配与复用策略，最大化利用有限的片上内存资源，支持更大模型运行。
毫秒级延迟
全链路推理优化，从模型加载到结果输出，实现毫秒级响应，提供如直觉般的即时体验。
动态功耗管理
实时监测负载，动态调整频率与电压，在性能与功耗间取得最佳平衡，延长设备续航时间。
技术形态
高效能 AI 推理系统满足从实时交互到批量处理的多样化推理需求
端侧推理芯片
- 功耗低于 1W，续航时间长达 7 天
- 支持 INT8/INT4 量化推理
- 适配主流 AI 框架，快速部署
实时推理引擎
- 端到端延迟低于 50ms，实时交互体验
- 支持流式处理，边输入边输出
- 动态批处理，平衡延迟与吞吐量
边缘计算芯片
- 支持多模型并发，算力可达 10TOPS
- 支持 PCIe/USB 等多种接口
- 工业级温度范围，稳定可靠
批量推理引擎
- 支持大规模批量处理，吞吐量提升 10 倍
- 智能调度，充分利用硬件资源
- 支持模型并行，处理超大模型