掌握全球体育脉搏

2024年5月18日 | 0 评论 | 体育资讯

中昊芯英公布了其最新一代 TPU 芯片「须臾」，该芯片的单芯片混合精度浮点计算能力达到了 896 TFLOPS，性能较上一代「刹那」芯片提升了三倍。在 8-bit 推理方面，其算力可达 1792 TOPS，能够应对大规模词元的高并发推理需求。

「须臾」芯片在显存容量和内部互联速度方面均有显著增强，并支持超长上下文处理。单卡额定功耗为 600W，与传统算力芯片相比，功耗降低了 50%，为绿色数据中心的构建贡献力量。

值得注意的是，「须臾」芯片的 IP 核、专用指令集、底层算子加速库以及整体系统软件均为自主研发，不依赖任何海外核心技术，这使其能够满足政务、金融、电网等行业在安全和合规方面的要求。

一同发布的还有高性能智算平台「泰则 2.0」。该平台是智算平台中的基础计算单元，集成了两颗高性能 CPU 处理器和八颗高性能 TPU 处理单元。从物理构成上看，它相当于一台通用的 CPU 服务器外接一台高性能 TPU 算力加速设备。其算力可达 7.168 PFLOPS（混合精度），在执行相同任务时，整机能耗仅为传统 GPU 服务器的 80%。

在软件层面，「泰则 2.0」平台实现了对所有主流 AI 框架的兼容，原生支持 PyTorch、vLLM、SGLang 等开发工具。在训练方面，它适配了 DeepSpeed 和 Megatron-LM 分布式套件。此外，该平台已经完成了对 Qwen 全系列、DeepSeek、GLM、MiniMAX 等数十款大语言和多模态模型的深度适配，方便开发者快速进行模型迁移。

开云深耕开云入口领域，用心服务每一位用户。