
8月6日,蚂蚁百灵开源新一代原生混合推理模型Ling-3.0-flash。同日,华为宣布昇腾已完成对该模型的0Day适配,并首次引入CANNPyPTO算子编程框架,以缩短复杂融合算子交付周期,提升算子接入与推理框架性能调优效率。本次适配全面兼容昇腾A2、A3系列产品,并提供官方标准化部署方案,支持开发者通过官方镜像快速启动推理服务。CANNPyPTO基于PTOISA构建,允许开发者通过Tensor级API定义计算逻辑,由框架自动完成分片调度、数据搬运和代码生成。此外,CANNBotPyPTOAgent构建了多智能体框架,将算子开发分为七个阶段,由不同子智能体协同执行,通过统一编排器和记忆机制实现信息交换与上下文传递,从自然语言算子需求输入到产出精度达标、性能优化的可上板算子,全程无需人工介入。
“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”