怎样利用蓝耘快速摆设 DeepSeek R1 模子

[复制链接]
发表于 2025-11-3 16:20:42 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×

1. DeepSeek R1 模子的先容

DeepSeek R1 模子是专为自然语言处理处罚(NLP)和其他复杂任务操持的先辈大规模深度学习模子 ,其高效的架构操持是一大亮点,可以或许更高效地提取特性,淘汰冗余盘算。这意味着在处理处罚海量数据时,它能快速地捉住关键信息,极大地提拔了数据处理处罚速率,大大紧缩了练习时间。比如在处理处罚长篇文本时,它可以敏捷提取出核心要点,比一些传统模子快上数倍。
强大的泛化本事也是 DeepSeek R1 的一大上风。它颠末大量丰富多样的数据练习,对差异任务和场景都有很强的顺应本事。无论是文本天生、智能问答,照旧代码天生与分析等任务,它都能应对自若。在文本天生中,它可以根据给定的主题天生逻辑连贯、内容丰富的文章;在智能问答中,面对各种复杂题目,它都能给出精确且具体的答复。
而且,DeepSeek R1 对参数的高效利用优化了参数设置,在练习时淘汰了内存占用。纵然在算力资源有限的环境下,它依然可以或许稳固运行,包管良好的性能。
下面是与别的模子的对比数据:
模子
DeepSeek-R1
GPT-4
Gemini 2.0
技能架构
基于 Transformer 架构,操持上更注意推理本事和输出简便性,接纳多阶段练习,包罗强化学习(RL)、监督微调(SFT)和蒸馏6
基于 Transformer 架构,拥有千亿级别的参数目,通过自注意力机制和多头注意力机制捕获长隔断依靠关系
接纳多模态架构,可以或许同时处理处罚文本、图像和音频等多种数据范例
练习数据
除了大量文本数据外,还参加逻辑推理和究竟行证方面的练习数据
利用大规模的文本数据举行练习,数据泉源广泛
利用大规模的多模态数据举行练习,包罗文本、图像、音频等
性能体现
在谈天呆板人竞技场综合榜单上排名第三,在风格控制类模子分类中与 OpenAI o1 并列第一;在高难度提示词、代码和数学等技能性极强的范畴体现精彩;在推理使掷中体现稳固,尤其在办理复杂数学题目和逻辑推理任务方面本事较强2
在语言天生和明白方面体现强大,可以或许处理处罚复杂的自然语言任务,在英文使掷中体现优秀,但处理处罚中文时偶尔会出现语义毛病或文化配景明白不敷的题目;推理本事较强,但偶尔会出现 “幻觉” 题目
在多模态任务(如图像形貌、视频分析)中体现突出,在纯文本任务上的体现略逊于 GPT-4 系列
固然 deepseek 的功能云云强大,但是由于一些恶意攻击,在官网上利用的速率不是很好,下面给各人先容一下怎样在蓝耕 GPU 智算平台上摆设 deepseek
2. 蓝耘GPU智算云平台的先容

蓝耘GPU智算云平台是一个今世化的、基于Kubernetes的云平台,基于行业领先的机动的底子办法及大规模的GPU 算力资源,为客户提供开放、高性能、高性价比的算力云服务,助力AI客户模子构建、练习和推理的业务全流程,以及教科研客户科研创新加速。旨在为科研工作者、工程师和创新者提供无与伦比的盘算办理方案,其 速率可比传统云服务提供商快35倍,本钱低落30%。
针对大模子练习场景,蓝耘算力云平台将运行环境、模子、 练习框架等打包到容器中,并通过定制化Kubernetes容器 编排工具举行容器的调理、管理和扩展,可以办理开辟环 境设置以及运维和管理题目,让算法工程师可以或许利用同一 的环境模板举行开辟,免除了初期大量的开辟环境设置, 以及在新的环境中管理新的算力资源的题目,为用户提供 开箱即用的大模子练习、推理平台。 除此之外,针对大模子练习中碰到的容器历程死机、大规 模分布式练习中GPU驱动丢失、GPU硬件破坏、乃至是计 算节点宕机等困难,都做了定制化操持,为以上困难提供 了主动化调理和强大的自愈本事,实现了更高的开辟和训 练服从以及团体资源利用率。


官方也提供了非常具体的操纵指南:


3. 设置并利用 deepseek

DeepSeek 在 R1 模子的底子上,利用 Qwen 和 Llama 蒸馏了几个差异巨细的模子,适配如今市面上对模子尺寸的最主流的几种需求。Qwen 和 Llama 系列模子架构相对简便,并提供了高效的权重参数管理机制,适当在大模子上实行高效的推理本事蒸馏。蒸馏的过程中不必要对模子架构举行复杂修改 ,淘汰了开辟本钱。
以 deepseek-r1_1.5b_7b_8b 为例,点击摆设


初次利用的话可以先选择按量计费,体验一下,然后选择 GPU 型号和 GPU 卡数,也免费提供了 50GB 的数据盘


购买之后就能跳转到工作空间,在这里可以点击快速启动应用


然后就能跳转到登录界面


官方也提供了账号和暗码:


登录之后就可以进利用用
先来测试一下,让它先容一下深度学习:



可以看出相应速率也优劣常快的,而且答复的条理也非常清楚,也可以切换别的规格


再来测试一下它的代码本事,可以看出,代码本事也非常精彩


  1. import math
  2. class DecisionTreeNode:
  3.     def __init__(self):
  4.         self.left = None
  5.     self.right = None
  6.     self.threshold = 0.0
  7. class DecisionTree:
  8.     def __init__(self, train_data, labels):
  9.         self.train_data = train_data
  10.     self.labels = labels
  11.     self.root = self.build_tree(train_data, labels)
  12.     def build_tree(self, data, labels):
  13.         if not data or len(data) == 1:
  14.         return DecisionTreeNode()
  15.     best_feature, max_gain = self.choose_best_feature(data, labels)
  16.     left_data = []
  17.     right_data = []
  18.     for i in range(len(data)):
  19.         if labels[i] == 0:
  20.         left_data.append(data[i])
  21. else:
  22.     right_data.append(data[i])
  23.     node = DecisionTreeNode()
  24.     node.threshold = max_gain
  25.     node.left = self.build_tree(left_data, [0]*len(labels))
  26.     node.right = self.build_tree(right_data, [1]*len(labels))
  27.     return node
  28.     def choose_best_feature(self, data, labels):
  29.         max_gain = -1.0
  30.     best_feature = 0
  31.     for feature in range(len(data[0])):
  32.         gain = self.information_gain(data, labels, feature)
  33.     if gain > max_gain:
  34.         max_gain = gain
  35.     best_feature = feature
  36.     return (best_feature, max_gain)
  37.     def information_gain(self, data, labels, feature):
  38.         total_ent = self.entropy(labels)
  39.     left_size = sum(1 for i in range(len(labels)) if labels[i] == 0)
  40.     right_size = len(labels) - left_size
  41.     if left_size == 0 or right_size == 0:
  42.         return 0.0
  43.     left_entropy = self.entropy([0]*left_size)
  44.     right_entropy = self.entropy([1]*right_size)
  45.     info_gain = total_ent - (left_entropy + right_entropy)/2
  46.     return info_gain
  47.     def entropy(self, probs):
  48.         ent = 0.0
  49.     for p in probs:
  50.         if p == 0:
  51.         continue
  52.     ent -= p * math.log(p, 2)
  53.     return ent
  54.     def main():
  55.         train_data = [[1, 2], [3, 4], [5, 6]]
  56.     labels = [0, 1, 0]
  57.     tree = DecisionTree(train_data, labels)
  58.     print("树的结构:", tree.root)
  59.     test_data = [[1, 2]]
  60.     prediction = tree.predict(test_data[0])
  61.     print("预测结果:", prediction)
  62.     if __name__ == "__main__":
  63.         main()
复制代码
假如说必要升级卡数也可以在应用详情的选项操纵


根据必要可以添加 GPU 卡数


4. 总结

DeepSeek R1 模子与蓝耘智算平台的团结,为我们展示了人工智能技能在实际应用中的巨大潜力。随着技能的不绝发展和创新,我们有来由信赖,它们将在更多范畴发挥告急作用,为我们的生存和工作带来更多的便利和创新。无论是推动科研的进步,照旧助力企业的发展,这一组合都将成为强大的助推器,引领我们走向更加智能的将来。让我们拭目以待,等待它们创造更多的精彩!
蓝耕平台注册链接:https://cloud.lanyun.net//#/registerPage?promoterCode=0131
回复

使用道具 举报

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录
快速回复 返回顶部 返回列表