读智能涌现: AI期间的思索与探索02第四次工业革命

[复制链接]
发表于 2026-5-18 06:28:08 | 显示全部楼层 |阅读模式

1. 根本要素

1.1. 算力、数据和算法

  • 1.1.1. 算力和数据是算法的底座,是为算法服务的前置条件
  • 1.1.2. 算法是AI三要素的焦点,决定着AI技能可否真正创造出赋能应用的代价,以及能创造多大的代价
  • 1.1.2.1. 算法仍然会处于AI三要素的焦点位置
  • 1.1.2.2. 详细到AI范畴,算法一样寻常指终极实现“呆板拟人”目的的运算战略和运算规则
1.2. 历经六十余年的漫长发展,AI范畴累积了数量相当可观的算法产业
1.3. 在深度学习技能探索的早期,递归神经网络(RNN)、卷积神经网络(CNN)、是非期影象人工神经网络(LSTM)是紧张的代表性算法
1.4. 天生对抗网络(GAN)和结果惊人的预训练大模子(Transformer-Based)为基于深度学习思绪的算法开启了新的发展空间
1.5. 演绎了垂直增长神话的ChatGPT,被广泛应用于安防、鉴权范畴的人脸辨认等
1.6. 如今,在感知智能范畴,如语音辨认、物体分类、活动辨认等,AI都已到达乃至逾越了人类的程度
1.7. 以现有算法训练出的AI在须要复杂推演本事和遐想本事的使命场景中的体现还临时达不到人类的程度
1.8. 现有算法的安全性和可表明性尚有待提升

  • 1.8.1. 由于是通过多层、复杂的神经网络举行训练,当神经网络叠加到肯定的量级时,每一层网络分别能起到什么样的作用、带来哪些性能的厘革,特殊是涌现征象何以发生,成为很难表明的标题
  • 1.8.2. 过程不可知每每意味着结果不可控,这自然会低沉人类对AI算法的信托程度
  • 1.8.3. 即便技能发展敏捷,在算法的透明性、可表明性、因果性、安全、隐私与伦理等方面,AI算法也面临许多寻衅
1.9. 算力也渐渐成为制约AI技能进化的关键标题

  • 1.9.1. 算力是供给AI开释出自身威力的能源,其职位就好比石油、自然气之于工厂
  • 1.9.2. 与AI技能的迅猛发展同步,其对算力能源的需求亦出现出多少级的增长态势
2. 三则定律

2.1. 香农定律

  • 2.1.1. 指出了信源编码的极限是信源的熵值,推理出信道容量与编码速率的表达式
  • 2.1.2. 在此根本上引申出通讯范畴的三个极限:无损压缩极限、信道传输极限、有损压缩极限
  • 2.1.3. 香农极限规定了人类如今的网络本事能实现的最大通讯速率
2.2. 冯·诺依曼架构

  • 2.2.1. 规范了当代盘算机的根本布局和运行逻辑
  • 2.2.2. 盘算机由五个根本部分构成,具有步调存储、共享数据、序次实行的特点
  • 2.2.3. 依照此架构计划出的盘算机也存在着运算器和存储器之间通讯延长等标题,从而导致速率瓶颈的出现,这对深度学习的进一步发展构成了肯定的限定
  • 2.2.4. 深度学习须要的基于海量数据的Tensor Products(张量积)​、希罕矩阵、布尔代数等要素在传统的冯·诺依曼架构下不易实现,异构盘算、GPU(图形处理处罚器)​、FPGA(现场可编程门阵列)​、AI ASIC(专用集成电路)等技能加快并彻底形成新架构成为局面所趋
  • 2.2.5. 在新架构诞生后,更多新算法、新模子、新型芯片将随之衍生,这将是一个非常大的机会
2.3. 摩尔定律

  • 2.3.1. 在半导体工艺走向极致化的本日,芯片晶体管数量的增长曲线已越来越平缓,摩尔定律正渐渐走向闭幕
  • 2.3.2. 只管通过制程工艺的进步、架构的改进、电路计划的优化等方式,GPU的性能每年都可以翻倍提升,但很显然,算力提升的速率仍然赶不上AI发展所需的增速
  • 2.3.3. 随着时间的推移,算力程度与智能科技发展之间的抵牾将会变得越发突出
2.4. 已无穷迫近传统盘算与通讯理论所规划的极限

  • 2.4.1. 一方面必须对根本的存、算、网架构举行升级,寻求突破
  • 2.4.2. 另一方面也应在新的盘算范式、新的盘算架构、专用芯片研发等方面投入更多的资源,付出更多的积极
3. 数据

3.1. 数据是AI算法进步的养料,也是让AI更好地服务于现实产业的质料
3.2. 每分每秒,人类的生产、生存都在产生更多的数据,而汲取、明白这些数据的AI也会变得越发强大,之后再将变强的本事回馈给人类社会
3.3. 新数据每分每秒都在产生,永不绝歇,但在物理天下中,存放数据的硬件空间是有限的
3.4. 研究者还要面临怎样准确网络数据、找到有效数据,进而以具有针对性的AI技能解放特定行业生产力的标题
4. ChatGPT

4.1. ChatGPT是人类第一个通过图灵测试的智能体

  • 4.1.1. 在它的身上看到了通用人工智能的雏形
4.2. 1981年8月12日,IBM公司推出了天下第一台接纳了开放性架构的个人盘算机PC 5150

  • 4.2.1. 1982年12月,这款PC登上了《期间》周刊的封面,并被评选为“年度人物”
4.3. 2022年11月30日,OpenAI正式发布了有史以来用户增长最快的消耗级AI应用步调ChatGPT

  • 4.3.1. 2023年2月,ChatGPT也以“年度风云人物”的身份,出如今《期间》周刊的封面上
4.4. ChatGPT可以说是将复杂技能简化为无门槛产物,进而为大众所广泛担当的标杆之作
4.5. InstructGPT(人工智能语言模子)和使用人类反馈来强化学习,都在很洪流平上让AI得以更好地判断用户意图,进而给出更准确的答案
4.6. 在诞生两个月后,就成为汗青上最快突破1亿用户的科技应用
4.7. 在ChatGPT面世前的两年,天生式AI可谓希望最快的技能,好比在AI做图的赛道,就有DALL-E(美国图像天生体系)​、Midjourney、Stable Diffusion(两者均为AI绘画工具)等“种子选手”在你追我赶
4.8. ChatGPT确实是一次质变与跃升,是AI概念诞生至今六十余年的一座里程碑
4.9. 以麻省理工学院(MIT)的盘算机科学家约瑟夫·维森鲍姆于1966年开辟的谈天呆板人步调Eliza(伊丽莎)为开端,盘算机科学家对于人机对话的探索已举行半个多世纪
4.10. 在ChatGPT发布前,谈天呆板人紧张应用于谈天、客服等垂直范畴,团体感觉更像是简单的工具或无聊时的玩具,经常答非所问,被用户戏称为“人工智障”​,这类谈天呆板人先辈想要通过图灵测试,显然难如登天
4.11. 2016年,AlphaGo在围棋范畴体现出的统治力初次将AI的可骇潜能展示于众人面前
4.12. 在认知层面,AI的性能实现了空前的提升,乃至让人看到了通用人工智能的影子
4.13. 全天下的盘算机科研工作者都在探索,哪条技能蹊径通往真正的通用人工智能
4.14. GPT-3的诞生,让不少人意识到,大数据和超大模子大概是一个准确的方向

  • 4.14.1. 后继者ChatGPT和GPT-4的不俗体现,让各人对这条蹊径的信心更加刚强
4.15. 当用于训练AI的数据规模不大时,结果还不显着

  • 4.15.1. 规模到达肯定程度后,就大概产生一些超出计划者预期的征象或本事,涌现得以发生
5. 天生式AI

5.1. GPT系列可以看作一个由大模子构成的AI操纵体系

  • 5.1.1. 与PC平台的Windows、MacOS、Linux,以及移动平台的iOS、Android具有相似的意义
  • 5.1.2. 意味着下层的硬件、上层的应用都将被重新构建、塑造,进而形玉成新的生态体系
5.2. PC期间的统治者是“Wintel同盟”​,即以英特尔x86处理处罚器为焦点的硬件生态,搭配以微软Windows操纵体系为焦点的软件及服务生态
5.3. 到了移动期间,从智能手机、平板电脑到VR(假造现实)装备、AR(增强现实)装备、智能腕表,绝大多数硬件都以ARM架构(一种基于精简指令集盘算机的处理处罚器架构)的处理处罚器为焦点

  • 5.3.1. 操纵体系则以iOS和Android两大阵营为主
  • 5.3.2. 还出现了影响力堪与操纵体系相媲美的“超等应用”​,如微信、抖音等
5.4. 大模子期间

  • 5.4.1. 并行盘算本事超强、更相宜处理处罚盘算麋集型使命的GPU的紧张性凸显
  • 5.4.2. 神经网络处理处罚器(Neural-network Processing Unit, NPU)、现场可编程门阵列、专用集成电路推动着盘算硬件体系的进化
  • 5.4.3. 操纵体系则可以是AI大模子自己,称为GPT-x或根本模子(Foundation Model, FM)
  • 5.4.4. 大模子之上还可以有小模子和差别的插件,整合现有的App,发展新的功能,吸引新的用户
  • 5.4.5. AI将成为每个人与每一台呆板交互的界面,而用户不再须要对处理处罚器、算力、存储给予太过的、不须要的关心,他们更在意的将是模子可以或许提供什么样的功能
5.5. 如果PC互联网的生态代价是1X,移动互联网的生态代价至少是10X,那么AI的生态代价大概在100X以上
6. 大模子期间

6.1. 条理

  • 6.1.1. 新布局的底层仍然是云,大概配备了数以万计的GPU或XPU(极限处理处罚器)​,它们构成了算力基石
  • 6.1.2. 往上一层是经典的IaaS层(Infrastructure as a Service,根本办法即服务,包罗了盘算、存储、网络、数据、安全等)​
  • 6.1.3. 再往上是根本模子层(Foundational Mode),又称MaaS层(Model as a Service,模子即服务)​
  • 6.1.4. 在此之上有许多VFM(Vertical Foundational Model,垂直根本模子)​,好比,用于主动驾驶、卵白质剖析、智能教诲、具身智能的
  • 6.1.5. 垂直根本模子并非相互孤立、相互隔绝,而是可以相互团结、形成对用户代价更高的应用—SaaS(Software as a Service,软件即服务)​
6.2. 大多数创新风口应该会出如今垂直根本模子层及其上的SaaS层

  • 6.2.1. 在大模子期间,边沿的机会非常大,也非常多
6.3. 详细到摆设端,模子并不是越大越好,而是越小越快越好

  • 6.3.1. 让AI可以或许在最短的时间内对交通状态做出最佳的判断,延时越短,结果就越好,而不是赋予驾车的AI以写诗作曲、天生影像的功能
6.4. 在大模子期间,操纵系同一家独大的大概性不大

  • 6.4.1. 因AI而生的App可以接入差别的体系,团结差别的根本大模子
6.5. 一个积极的厘革是,以往开辟任何应用都须要大规模的数据,如今依托预训练模子,数据的调用已不成标题,因而每个企业只须要团结自己的专有数据做精调训练(Fine Tuning)和提示工程(Prompt Engineering),就能以比已往更少的投入得到更好的反馈与更高的回报
6.6. 举世每一年产生的数据量约莫是上一年的1.26倍,增长速率超出了摩尔定律

  • 6.6.1. 此中大部分数据大概由非中文语种产生
  • 6.6.2. 对于训练中文大模子来说,如今以致以后都不算是限定
  • 6.6.2.1. 可以用英文及其他语种的数据来训练中文大模子
  • 6.6.2.2. 用于训练大模子的数据远不但文本,还包罗视频、语音等多模态数据
6.7. 不但是源自大息天下的数据,物理天下(主动驾驶车辆、呆板人、边沿装备、各种工业办法等)​,生物天下(基因组学、细胞组学、人类的大脑器官等)的各种数据都可以变化为Token(词元)​,供AI连续学习
6.8. 如今绝大部分被纳入统计的数据是由人类和各种呆板、传感器产生的数据,这些只是浮在海面上的冰山一角,物理天下中尚有更多数据临时处于海面以下
6.9. 比获取数据更紧张的是怎样用好数据

  • 6.9.1. 团队不但在技能层面实时调试、优化,还雇用了许多人对数据做各种标注,再加上纳入了人类反馈的强化学习
  • 6.9.1.1. 相当于我们与ChatGPT的每轮对话都能让它变得更聪明
6.10. 除了保障用于模子训练的算力、数据和算法,边际环节也很紧张
6.11. 在围绕AI睁开的新一轮科技长跑的进程中,中国科技界与“天下顶尖”之间的差距大概更多地体如今高端盘算芯片、算法体系和一些大的平台级技能方面

  • 6.11.1. 中国在PC互联期间落伍于天下,在移动互联期间实现了特定范畴(数字付出、短视频等)领先于天下

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
回复

使用道具 举报

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录
快速回复 返回顶部 返回列表