DeepSeek-V3.2-Exp发布,API成本降低50%以上
9月30日消息,DeepSeek通过官方公众号宣布,正式发布实验性大语言模型DeepSeek-V3.2-Exp。该版本作为迈向新一代架构的过渡产物,在V3.1-Terminus基础上引入自研的DeepSeek Sparse Attention(DSA)稀疏注意力机制,重点针对长文本场景的训练与推理效率开展技术验证与优化。
据介绍,DeepSeek Sparse Attention(DSA)首次实现了细粒度稀疏注意力机制,在几乎不影响模型输出效果的前提下,实现了长文本训练和推理效率的大幅提升。

为了严谨地评估引入稀疏注意力带来的影响,DeepSeek特意将DeepSeek-V3.2-Exp的训练设置与V3.1-Terminus 进行了严格的对齐。在各领域的公开评测集上,DeepSeek-V3.2-Exp的表现与V3.1-Terminus基本持平。

在新模型的研究过程中,需要设计和实现很多新的GPU算子。DeepSeek使用高级语言TileLang进行快速原型开发,以支持更深入的探索。在最后阶段,以TileLang作为精度基线,逐步使用底层语言实现更高效的版本。
因此,本次开源的主要算子包含TileLang与CUDA两种版本。DeepSeek建议社区在进行研究性实验时,使用基于TileLang的版本以方便调试和快速迭代。

目前,官方App、网页端、小程序均已同步更新为DeepSeek-V3.2-Exp,同时API大幅度降价,开发者调用DeepSeek API的成本将降低50%以上。
相关阅读
- TUV莱茵与SID China正式启动显示产业可持续及检测相关专家工作组
- Automation Anywhere 宣布 2024 财年第三季度报告
- 英特尔:推动 6G 变革,驱动未来通信新范式
- 比特网早报:OpenAI发布开放权重人工智能模型,人工智能已开始影响劳动力市场
- 比特网早报:阿里国际发布翻译大模型Marco,零一万物全新SOTA旗舰模型亮相
- 第二增长极提速!光伏电池龙头再签2.38亿元设备订单
- DXC Technology与ServiceNow深化战略合作
- 无惧EDA封锁升级,思尔芯国产方案筑牢客户验证防线
- OpenVINO DevCon 2024 盛大启动:英特尔以技术之力,携手开发者共筑AI未来
- 长鑫存储准备生产HBM内存 采购设备已获美国批准