6个回答

DeepSeek-V3.2-Exp版本更新,有哪些信息值得关注?

羽木
46个点赞 👍

来了!DeepSeek-V3.2

确认,DeepSeek新模型叫「DeepSeek-V3.2-Exp」

只不过,多了一个后缀“Exp”。“Exp”指Experimental,意思是说这是一个实验性模型。

现在,上DeepSeek官网、APP就可以体验。

一个周前,DeepSeek更新了V3.1基础模型,版本名「DeepSeek-V3.1-Terminus」,Terminus意思终结者,大意是说这是DeepSeek V系列的终结版本。

之后,就是一个全新的架构了。

1、认识DeepSeek-V3.2

V3.2-Exp,目前还是一个过渡版本,是深度求索迈向新一代架构的中间步骤。

在V3.1-Terminus的基础上,V3.2-Exp首次引入了DeepSeek Sparse Attention——一种旨在探索和验证长上下文场景中训练和推理效率优化的稀疏注意力机制。

据了解,这是DeepSeek对更高效Transformer架构的一次实验性发布,重点关注在处理扩展文本序列时提高计算效率。

说白了就是,怎么让模型在仅有的训练卡里多干活、干好活,这也是国内模型的无奈之举。

显卡不够,算法来凑。

2、首次实现DSA

据介绍,DeepSeek Sparse Attention(DSA)首次实现了细粒度稀疏注意力机制,在几乎不影响模型输出效果的前提下,实现了长文本训练和推理效率的大幅提升。

在这张推理成本对比图中可以看到,V3.2-Exp的成本大幅降低。无论上下文有多长,V3.2-Exp的成本几乎就没怎么变过。

而性能方面,V3.2-Exp不比3.1-Terminus差,甚至部分任务的表现还有所提升,比如代码和搜索Agent方面。

卧槽,我只能说,真的太强了!用全新的架构带来了超低的成本价格。

3、算法全部开源

在新模型的研究过程中,需要设计和实现很多新的GPU算子。

DeepSeek使用高级语言TileLang进行快速原型开发,以支持更深入的探索。在最后阶段,以TileLang作为精度基线,逐步使用底层语言实现更高效的版本。

而这一套东西,DeepSeek全部开源。

开源的主要算子包含TileLang与CUDA两种版本。如果大家需要进行研究性实验,建议使用基于TileLang的版本,方便进行调试和快速迭代。

TileLang版:github.com/tile-ai/tile

CUDA版:github.com/deepseek-ai/

目前放出的模型没有小版本,都是685B,全部开源。在Huggingface魔搭上可以下载。

HuggingFace:huggingface.co/deepseek

ModelScope:modelscope.cn/models/de

技术论文:github.com/deepseek-ai/

4、API降价75%

由于新架构带来成本大幅降低,所以官方API也同步降价,价格即刻生效。

输入降幅50%,输出更是直接降到75%!价格屠夫,真的太残暴了!!

API调用地址:

platform.deepseek.com/u

如果需要与V3.1-Terminus模型进行对比,DeepSeek也保留了API访问接口。

用户只需修改base_url="api.deepseek.com/v3.1_t", 即可访问 V3.1-Terminus,调用价格与V3.2-Exp相同。

即可访问 V3.1-Terminus,调用价格与V3.2-Exp相同。

该接口,保留至2025年10月15日24点。

更多使用指引,可以在这个官方文档查看。

api-docs.deepseek.com/z

沃垠AI
自由评论 (0)
分享
Copyright © 2022 GreatFire.org