CNTXJ.NET | 通信界-中国通信门户 | 通信圈 | 通信家 | 下载吧 | 说吧 | 人物 | 前瞻 | 智慧(区块链 | AI
 国际新闻 | 国内新闻 | 运营动态 | 市场动态 | 信息安全 | 通信电源 | 网络融合 | 通信测试 | 通信终端 | 通信政策
 专网通信 | 交换技术 | 视频通信 | 接入技术 | 无线通信 | 通信线缆 | 互联网络 | 数据通信 | 通信视界 | 通信前沿
 智能电网 | 虚拟现实 | 人工智能 | 自动化 | 光通信 | IT | 6G | 烽火 | FTTH | IPTV | NGN | 知本院 | 通信会展
您现在的位置: 通信界 >> 互联网络 >> 技术正文
 
新版摩尔定律也要靠算力 英伟达称AI训练速度可再提高1万倍
[ 通信界 | 钱童心 | www.cntxj.net | 2023/2/27 22:32:41 ]
 

  ChatGPT之父、OpenAI公司CEO奥特曼(Sam Altman)周日在一条Twitter上写道:“新版摩尔定律很快就要来了,宇宙中的智能数量每18个月就会翻一倍。”

  摩尔定律是英特尔(25.57, 0.43, 1.71%)联合创始人摩尔对半导体行业的预测,指芯片中的晶体管数量大约每两年翻一番,同时价格降一半。几年前,芯片巨头英伟达创始人CEO黄仁勋就曾表示:“摩尔定律已死。”

  奥特曼的最新言论很快在社交媒体上发酵,但他没有具体解释所谓的“智能”(intelligence)到底是指什么,这也引发了业内的热烈讨论。

  宇宙智能数量18个月翻番指什么?

  “当(人脑之外的)另一个结构可以突破(神经元)总量限制时,智能的确会不断爆炸。”猎豹移动(2.59, 0.00, 0.00%)董事长傅盛在微信朋友圈中写道。他向第一财经记者解释称:“这里的智能应该指神经元参数。”

  澜舟科技创始人CEO周明对第一财经记者表示,虽然神经元参数确实是可以数值化衡量的指标,但是过去几年里,神经元参数似乎并没有18个月就实现翻番。

  “我认为Altman说的意思比较含糊,我个人的理解是,世界上的人工智能能力每18个月翻一倍,但怎么才算翻一倍,是增加新的能力的个数,还是已有能力的翻倍提升,他没有明确说明。”周明对第一财经记者表示。

  第一财经记者就如何理解“智能”翻番向ChatGPT提问。首先问:“宇宙中智能数量每18个月翻一倍,这里的智能是指什么?”ChatGPT回答道:“声称宇宙中的智能数量每18个月翻番是没有科学依据的,因为智能不是一个可以用这种方式测量或量化的物理量,通常认为它是一个具有复杂特性的东西,不能简化为单个指标或者数值。”

  当第一财经记者在提问中加入ChatGPT创始人奥特曼的名字,再问:“奥特曼所说的新版摩尔定律是指什么?”ChatGPT回答称:“新摩尔定律指的是奥特曼在2018年做出的关于人工智能快速发展及其能力呈指数级增长的预测。奥特曼表示,人工智能发展的速度目前正在超过摩尔定律。”

  从ChatGPT的回答中可以看出,这一预测是奥特曼早在2018年就曾作出的,但当时OpenAI的能力远不如今天,这一表态自然也未受到关注。

  如今,奥特曼重新将他的“新版摩尔定律”抛出,背后是深度学习和AI的崛起。但不管ChatGPT如何强大,背后也离不开算力的支撑。

  随着人类对于算力的要求越来越高,要满足新的高性能运算需求,芯片就需要不断迭代,成本也会随之增加。目前支撑包括ChatGPT大模型在内的95%用于机器学习的芯片都是英伟达的A100,该芯片的单价超过1万美元。

  在上周英伟达的财报会议上,黄仁勋称,英伟达的GPU在过去的十年里将AI的处理性能提高了100万倍。英伟达现在希望将AI的训练速度提高至少1万倍。

  研究机构Gartner分析师盛陵海对第一财经记者表示:“过去十年是AI发展从0到100的阶段,但是要从100到10000,是完全不同的场景。过去十年芯片的发展还遵循摩尔定律,但随着摩尔定律接近极限,未来计算机的能力要进一步提升越来越困难,除非量子计算能有大的突破。”

  谁能颠覆人工智能主力”A100

  根据研究机构New Street Research发布的一份报告,英伟达的A100目前已成为人工智能领域的“主力”,占据了用于机器学习的图形处理器市场95%的份额。

  训练大型语言模型需要大量GPU,这些GPU还能进行“推理”。拥有热门AI产品的公司通常需要购买更多GPU来处理峰值期间的数据或用于模型的改进。例如,人工智能公司Stability AI公司过去一年购买的A100芯片数量增加到目前的5400个。Stability AI的软件用于图像生成器Stable Diffusion,使用256个A100芯片训练模型,训练总时长达20万个小时。

  除了单个的A100芯片之外,英伟达还出售一个包含8个A100的服务器系统DGX,售价接近20万美元。根据机构测算,微软(252.0511, 2.83, 1.14%)基于ChatGPT的人工智能搜索必应(Bing AI)需要超过2万台DGX服务器系统,才能使Bing的模型支持每个人的搜索,这表明该功能可能需要微软投资40亿美元的基础设施支出。

  而谷歌(89.79, 0.44, 0.49%)每天进行近百亿次的搜索服务需要的服务器能力更大。根据New Street Research的技术分析师Antoine Chkaiban的预测,谷歌要满足所有人的搜索,需要在DGX上花费800亿美元。“这说明每个使用如此庞大的语言模型的用户都需要一台大型超级计算机。”Chkaiban在报告中写道。

  但目前仅有大公司才有实力进行如此巨大的投资。为了让更多小公司能够使用英伟达AI的能力,英伟达正在拓展一种全新商业模式。黄仁勋在上周的财报电话会议中表示,未来将直接出售对DGX系统的云访问,从而降低小公司研究人员使用AI能力的入门成本。

  在黄仁勋看来,英伟达提供的价值是将原来需要投入10亿美元运行CPU的数据中心缩减为仅用1亿美元就能搞定的数据中心,现在将该数据中心放在云端共享,意味着可以由100家公司来分担这一成本,因此每家公司支付的实际上是非常少的费用。“现在企业可以花一两千万来构建一个类似GPT的大型语言模型,这是可以支付得起的。”黄仁勋表示。

  尽管英伟达并不是唯一一家生产用于人工智能GPU的公司,但根据研究机构State of AI的报告,截至去年12月,超过2万篇开源AI论文中都使用了英伟达的AI芯片,其中A100在2022年的使用量迅速增长,成为英伟达被使用第三多的芯片,仅次于其售价1500美元的游戏芯片。

  目前能与A100的使用量竞争的仍然是英伟达去年量产的下一代人工智能芯片H100。这款芯片的售价更高,并且在截至今年1月的财季中,H100芯片的收入已经超过了A100。英伟达表示,H100是该公司推出的首款针对transformer架构进行优化的数据中心GPU,transformer正在越来越多地用于新的顶级人工智能应用程序,重要性日益凸显。

  “H100采用了5纳米的制程,相比于A100的7纳米制程而言,H100的性能应该是显著优于A100的。”盛陵海对第一财经记者表示。

 

1作者:钱童心 来源:第一财经 编辑:顾北

 

声明:①凡本网注明“来源:通信界”的内容,版权均属于通信界,未经允许禁止转载、摘编,违者必究。经授权可转载,须保持转载文章、图像、音视频的完整性,并完整标注作者信息并注明“来源:通信界”。②凡本网注明“来源:XXX(非通信界)”的内容,均转载自其它媒体,转载目的在于传递更多行业信息,仅代表作者本人观点,与本网无关。本网对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。③如因内容涉及版权和其它问题,请自发布之日起30日内与本网联系,我们将在第一时间删除内容。 
热点动态
普通新闻 中信科智联亮相2023中国移动全球合作伙伴大会
普通新闻 全球首个基于Data Channel的新通话商用网络呼叫成功拨通
普通新闻 中国联通:以优质通信服务 助力“一带一路”共建繁华
普通新闻 杨杰:未来五年,智算规模复合增长率将超过50%
普通新闻 长沙电信大楼火灾调查报告发布:系未熄灭烟头引燃,20余人被问责
普通新闻 邬贺铨:生态短板掣肘5G潜能发挥,AI有望成“破局之剑”
普通新闻 工信部:加大对民营企业参与移动通信转售等业务和服务创新的支持力
普通新闻 摩尔线程亮相2023中国移动全球合作伙伴大会,全功能GPU加速云电脑体
普通新闻 看齐微软!谷歌表示将保护用户免受人工智能版权诉讼
普通新闻 联想王传东:AI能力已成为推动产业升级和生产力跃迁的利刃
普通新闻 APUS李涛:中国的AI应用 只能生长在中国的大模型之上
普通新闻 外媒:在电池竞赛中,中国如何将世界远远甩在后面
普通新闻 三星电子预计其盈利能力将再次下降
普通新闻 报告称华为5G专利全球第1 苹果排名第12
普通新闻 党中央、国务院批准,工信部职责、机构、编制调整
普通新闻 荣耀Magic Vs2系列正式发布,刷新横向大内折手机轻薄纪录
普通新闻 GSMA首席技术官:全球连接数超15亿,5G推动全行业数字化转型
普通新闻 北京联通完成全球首个F5G-A“单纤百T”现网验证,助力北京迈向万兆
普通新闻 中科曙光亮相2023中国移动全球合作伙伴大会
普通新闻 最高补贴500万元!哈尔滨市制定工业互联网专项资金使用细则
通信视界
邬贺铨:移动通信开启5G-A新周期,云网融合/算
普通对话 中兴通讯徐子阳:强基慧智,共建数智热带雨
普通对话 邬贺铨:移动通信开启5G-A新周期,云网融合
普通对话 华为轮值董事长胡厚崑:我们正努力将5G-A带
普通对话 高通中国区董事长孟樸:5G与AI结合,助力提
普通对话 雷军发布小米年度演讲:坚持做高端,拥抱大
普通对话 闻库:算网融合正值挑战与机遇并存的关键阶
普通对话 工信部副部长张云明:我国算力总规模已居世
普通对话 邬贺铨:我国互联网平台企业发展的新一轮机
普通对话 张志成:继续加强海外知识产权保护工作 为助
普通对话 吴春波:华为如何突破美国6次打压的逆境?
通信前瞻
亨通光电实践数字化工厂,“5G+光纤”助力新一
普通对话 亨通光电实践数字化工厂,“5G+光纤”助力新
普通对话 中科院钱德沛:计算与网络基础设施的全面部
普通对话 工信部赵志国:我国算力总规模居全球第二 保
普通对话 邬贺铨院士解读ChatGPT等数字技术热点
普通对话 我国北方海区运用北斗三号短报文通信服务开
普通对话 华为云Stack智能进化,三大举措赋能政企深度
普通对话 孟晚舟:“三大聚力”迎接数字化、智能化、
普通对话 物联网设备在智能工作场所技术中的作用
普通对话 软银研发出以无人机探测灾害被埋者手机信号
普通对话 AI材料可自我学习并形成“肌肉记忆”
普通对话 北斗三号卫星低能离子能谱仪载荷研制成功
普通对话 为什么Wi-Fi6将成为未来物联网的关键?
普通对话 马斯克出现在推特总部 收购应该没有悬念了
普通对话 台积电澄清:未强迫员工休假或有任何无薪假
普通对话 新一代载人运载火箭发动机研制获重大突破
推荐阅读
Copyright @ Cntxj.Net All Right Reserved 通信界 版权所有
未经书面许可,禁止转载、摘编、复制、镜像