开yun体育网北京时辰逐日00:30-08:30为错峰时段-开云(中国)kaiyun网页版登录入口
DeepSeek开源周收官,DeepSeek以终末一弹,再次在AI江湖激起了层层震动。
3月1日,DeepSeek在知乎上发表题为《DeepSeek-V3/R1 推理系统概览》的著作,全面揭晓V3/R1 推理系统背后的重要秘籍。
最为引东说念主防御的是,著作初度表示了DeepSeek的表面资本和利润率等重要信息。据先容,假设GPU租借资本为2好意思元/小时,总资本为87072好意思元/天;要是总计tokens一说念按照DeepSeek R1的订价筹备,表面上一天的总收入为562027好意思元/天,资本利润率为545%。
最猛进度优化推理系统,表面资本利润率高达545%
据著作先容,DeepSeek-V3/R1推理系统的优化见地是更大的迷糊、更低的蔓延。为了已矣这两个见地,DeepSeek使用了大范畴跨节点巨匠并行(Expert Parallelism / EP)的治安,并通过一系列手艺政策,最猛进度地优化了大模子推理系统,已矣了惊东说念主的性能和效果。

具体而言,在更大的迷糊的方面,大范畴跨节点巨匠并行能够使得batch size(批尺寸)大大加多,从而提高GPU矩阵乘法的效果,提高迷糊。
batch size在深度学习中是一个尽头蹙迫的超参数,指模子在磨真金不怕火经过中每次使用的数据量大小。它决定了每次模子更新时使用的磨真金不怕火样本数目,调遣batch size不错影响模子的磨真金不怕火速率、内存破费以及模子权重的更新口头。
在更低的蔓延方面,大范畴跨节点巨匠并利用得巨匠漫步在不同的GPU上,每个GPU只需要筹备很少的巨匠(因此更少的访存需求),从而镌汰蔓延。
但是,由于大范畴跨节点巨匠并行会大幅加多系统的复杂性,带来了跨节点通讯、多节点数据并行、负载平衡等挑战,因此DeepSeek在著作中也重心叙述了使用大范畴跨节点巨匠并行增大batch size的同期,怎么荫藏传输的耗时,怎么进行负载平衡。
具体来看,DeepSeek团队主要通过范畴化跨节点巨匠并行、双批次类似政策、最优负载平衡等口头,最大化资源利用率,保证高性能和自如性。
值得看重的是,著作还表示了DeepSeek的表面资本和利润率等重要信息。据先容,DeepSeek V3 和R1的总计事业均使用英伟达的H800 GPU,由于白日的事业负荷高,晚上的事业负荷低,DeepSeek已矣了一套机制,在白日负荷高的时候,用总计节点部署推理事业。晚上负荷低的时候,减少推理节点,以用来作念盘考和磨真金不怕火。
通过期辰上的资本按捺,DeepSeek示意DeepSeek V3和R1推理事业占用节点总数,峰值占用为278个节点,平均占用226.75个节点(每个节点为8个H800 GPU)。假设GPU租借资本为2好意思元/小时,总资本为87072好意思元/天;要是总计tokens一说念按照DeepSeek R1的订价筹备,表面上一天的总收入为562027好意思元/天,资本利润率为545%。

不外,DeepSeek也强调,践诺上的收入能够并莫得那么多,因为V3的订价相较于R1要更低,另外夜间还会有扣头。记者看重到,2月26日,DeepSeek在其API绽开平台发布错峰优惠活动见知。凭证见知,北京时辰逐日00:30-08:30为错峰时段,API调用价钱大幅下调,其中DeepSeek-V3降至原价的50%,DeepSeek-R1降至25%。DeepSeek饱读吹用户在该时段调用,享受更经济更通达的事业体验。
凭证模子价钱细节,在尺度时段(北京时辰08:30-00:30),V3和R1的百万tokens输入(缓存掷中)价钱区分为0.5元和1元,百万tokens输出区分为8元和16元,R1均为V3的两倍。而在优惠时段(北京时辰00:30-08:30),V3和R1的百万tokens输入(缓存掷中)则均降为0.25元,百万tokens输出均降为4元。
开源周告一段落,更多惊喜能够还在路上
跟着终末一枚“重磅炸弹”的发布,DeepSeek的开源周活动认真告一段落。
在当年的一周里,DeepSeek每天开源一个代码库,堪称公开了一个“手艺全家桶”。业内东说念主士分析,这一系列的手艺组件看似孤苦,实则共同构建成了一套精密协同的系统,让DeepSeek在有限算力之下最猛进度地“榨干”了GPU,已矣了磨真金不怕火推理效果的大幅提高。
记者看重到,在DeepSeek今天发布“终末一弹”的帖子下,不少国际网友抒发了讴歌。举例,又名网友示意,到第七天,DeepSeek能够还会发布AGI(通用东说念主工智能,东说念主工智能的最高见地);另外又名网友示意,“这即是为了正确的事理作念正确的事情,你们总计是据说,鞠躬问候”;还有网友揣摸,DeepSeek自尊公布这些信息,讲明他们践诺上还是达到了跨越的水平,践诺的手艺才智可能更高。

不仅如斯,还有网友将DeepSeek与OpenAI进行对比,示意:“‘资本利润率545%’,等一下,是以你是说我被OpenAI洗劫了?”

与DeepSeek的开源、免费比拟,OpenAI的模子收费一直十分腾贵。就在2月28日,OpenAI认真发布最新模子GPT-4.5盘考预览版,这是一款堪称“情商最高”的通用大言语模子。然则,其高达每100万tokens输入75好意思元的API调用价钱,比拟GPT-4o的2.5好意思元暴涨了30倍,比拟DeepSeek的宽泛价钱,GPT-4.5输入价钱更是达到了惊东说念主的280倍。
事实上,GPT-4.5发布后,好多网友已在斟酌区吐槽订价太贵。而OpenAI的CEO山姆·奥特曼也承认,GPT-4.5是一个“重大且腾贵的模子”。“咱们蓝本尽头但愿同期向Plus和Pro用户推出它,但跟着咱们的范畴发展壮大,咱们还是耗尽了GPU资源。咱们将鄙人周加多数万块GPU,然后将其推出给Plus层级的用户。”奥特曼在其个东说念主酬酢平台上示意。
算作大模子范围的“鲶鱼”,DeepSeek如吞并名初出茅屋、聪惠而锐气的年青东说念主,捏续地给行业的老玩家及巨头们带来压力。最近,据外媒涌现,DeepSeek正在加快研发DeepSeek-R2推理模子,这一模子原规划本年5月发布,但能够会提前,新模子有望不错生成更好的代码,而且使用英语除外的言语进行推理。
从V3到R1,再到行将面世的R2,外界对DeepSeek充满了期待,DeepSeek也以捏续的手艺冲破惊艳宇宙。开源周诚然暂时终结了,但更多的惊喜,能够还在路上。

包袱裁剪:王其霖 开yun体育网