当前位置:首页 > 文章列表 > 科技周边 > 人工智能 > 生成式AI数据中心网络来了,NVIDIA抢占加速计算高端市场

生成式AI数据中心网络来了,NVIDIA抢占加速计算高端市场

来源:搜狐 2023-06-22 12:11:35 0浏览 收藏

珍惜时间,勤奋学习!今天给大家带来《生成式AI数据中心网络来了,NVIDIA抢占加速计算高端市场》,正文内容主要涉及到等等,如果你正在学习科技周边,或者是对科技周边有疑问,欢迎大家关注我!后面我会持续更新相关内容的,希望都能帮到正在学习的大家!

在大模型和生成式AI的大风口下,NVIDIA大力倡导并率先进军传统数据中心的高端市场——加速计算数据中心。自进入AI和大数据时代,业界就开始出现“加速计算”的概念。简单理解,加速计算即使用GPU、FPGA以及各种DPU等加速芯片以及相关的软件技术,对传统数据中心计算进行“加速”,以满足AI、大数据、边缘计算等特定计算场景的需求。

而自从2023年初大模型和生成式AI爆火后,加速计算在一夜之间迅速占领了业界“头条”,NVIDIA也在这一波市场热度中冲到了万亿美元市值,既赚足了全球科技产业的眼球,又赚得“盆满钵满”。为了进一步夯实加速计算,NVIDIA在前不久的COMPUTEX 2023上推出了全套的生成式AI数据中心方案,特别是全球首个专为生成式AI而构建的Spectrum-X以太网网络架构,意在创造一个全新的AI云高性能数据中心市场。

生成式AI数据中心网络来了,NVIDIA抢占加速计算高端市场

新推出的NVIDIA Spectrum-X网络平台是对现有数据中心网络的重塑,在以太网的基础上用NVIDIA BlueField-3 DPU进行网络和应用在主机端的加速,再加上NVIDIA Spectrum-4高性能以太网交换机,以及相应的软件,就可实现集群内的GPU-GPU高效通信,这样就能将成百上千台服务器连成一个大的集群,形成具有上千甚至上万张GPU卡的超大规模数据中心,以适应大模型训练的要求,这就是生成式AI数据中心。

此前,NVIDIA已经推出了NVLink Switch技术,已经发展到第四代,可以实现集群内跨服务器的GPU-GPU通信,最多可连接32台服务器、256张GPU卡,在COMPUTEX 2023上最新发布的DGX GH200超级计算机就是首次采用NVLink Switch技术构建的“巨型GPU”——将256个GH200 Grace Hopper芯片和144TB共享内存连接起来,构建成立了一个256个GPU的的共享内存平台。

NVIDIA正在以色列构建名为Israel-1的生成式AI云超级计算机,Israel-1由256台基于HGX的戴尔服务器构成,每台服务器配备8张GPU,也就是共有2048张GPU卡,同时配备了2560个BlueFiled-3 DPU和80多台Spectrum-4交换机,可达8 EFlop/s的峰值AI性能,将是全球性能排名靠前的AI超级计算机之一。

早在2020年,NVIDIA就完成了对以色列面向服务器和存储提供高性能连接解决方案的供应商迈络思(Mellanox)科技的收购,该收购高达70亿美元,NVIDIA也同时获得了千余名HPC高级人才。当然,Mellanox是坚定的InfiniBand技术的推动者,而InfiniBand是天然通过RDMA技术来进行远程GPU内存直接访问的网络技术,NVIDIA Quantum-2 InfiniBand平台是NVIDIA的另一个网络平台,用于实现更为高端的GPU互连网络。

由Israel-1的配置可见,Israel-1是为了向广大服务器工业界和数据中心产业界验证构建基于高性能以太网的生成式AI数据中心的可行性。

相较于基于现有以太网技术方案的传统数据中心,Israel-1提供了一种全新的设计架构,通过用BlueFiled-3 DPU在主机端加速网络和关键应用,Spectrum-4替换传统交换机实现网络中的高速数据交换和业务性能隔离,LinkX助力于端到端的数据完整性保障,NVIDIA全栈式AI软件提供高效易用的操作平台,满足了生成式AI数据中心对于以太网平台上性能的追求。

简单理解,NVIDIA是在创建一个全新的数据中心市场,一个面向未来的数据中心市场,而不是在进攻传统的数据中心市场,那就是高端AI工厂和豪华版生成式AI数据中心,这就相当于智能手机里的最高配安卓机与最高配苹果机,彻底颠覆了传统手机市场。究竟NVIDIA能否在这个市场上创造辉煌?这还要看生成式AI在多大程度上能够真正成为一个产业,而不是像传统AI那样最终趋于平静。

继高盛的经济学家之后,麦肯锡发布了《生成式AI经济潜力》报告,麦肯锡分析调查了47个国家的850种职业、63个应用示例和2100多项详细的工作活动,基本涵盖全球80%的劳动力。根据麦肯锡的分析,涵盖16个业务场景的63个生成式AI用例每年可以为全球带来2.6-4.4万亿美元的经济效益。麦肯锡还发现,当把生成式AI应用在知识工作者的岗位时,每年可为全球增加6.1-7.9万亿美元经济效益,高于业务场景用例。麦肯锡预计,从2023年到2040年,通过生成式AI实现的业务流程自动化,可为全球提供0.2%—3.3%的生产力。

总体来说,生成式AI的商业前景正在迅速形成中,而且能够切实为所有人和所有企业带来生产力和生产效率的提升,而NVIDIA对生成式AI数据中心的“押注”,或许将为全球数据中心产业带来一场新的风暴。

今天关于《生成式AI数据中心网络来了,NVIDIA抢占加速计算高端市场》的内容介绍就到此结束,如果有什么疑问或者建议,可以在golang学习网公众号下多多回复交流;文中若有不正之处,也希望回复留言以告知!

版本声明
本文转载于:搜狐 如有侵犯,请联系study_golang@163.com删除
ChatGPT当神父火了!数百人参会,排队1小时听它布道ChatGPT当神父火了!数百人参会,排队1小时听它布道
上一篇
ChatGPT当神父火了!数百人参会,排队1小时听它布道
Redis作为消息队列的性能优化策略
下一篇
Redis作为消息队列的性能优化策略
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • ljg-skills -
    ljg-skills
    ljg-skills 是李继刚开源的 AI 技能与提示词集合,面向大模型使用者整理了一批可复用的 prompt、角色设定和任务技能模板,适合用于学习提示词设计、搭建个人 AI 工作流和沉淀团队常用智能体能力。
    3005次使用
  • MELO音乐 - AI 音乐生成平台,支持多模态创作能力
    MELO音乐
    MELO音乐是一站式AI视频与音乐制作助手,对标suno, udio的高品质体验。提供伴奏生成、原创写词、无损导出、哼唱识曲、混音变声等全套音频与短视频编辑工具。无论是流行Kpop、电音说唱、民谣古风、摇滚儿歌还是商用轻音乐,MELO为你免费谱曲,轻松做同款!
    2775次使用
  • UniScribe - AI 免费在线音视频转文字平台
    UniScribe
    UniScribe 是一款 AI 音视频转文字与内容整理工具,支持上传音频、视频文件或粘贴 YouTube 链接,自动生成转写文本、摘要、思维导图和关键问题,并支持多格式导出,适合会议记录、课程学习、访谈整理和内容创作复盘。
    2714次使用
  • 剧云 - 免费 AI 智能中文剧本创作平台
    剧云
    剧云是专业中文剧本创作平台,安全稳定运行十余年,集成AI编剧、剧本医生审核、人物小传、剧情关系图、大纲编写、多人协作、Word导入导出、版权管控功能,数据安全防护,轻松高效创作剧本。
    2940次使用
  • 万象有声 - AI 一站式有声内容创作平台
    万象有声
    万象有声,一个专为有声创作者打造的新一代智能有声内容创作平台。平台提供专业的智能拆章、智能画本编辑、AI配音、AI生成音效、后期制作、智能对轨、智能审听等有声创作全流程工具,可以帮助创作者高效、低成本创作出引人入胜的有声作品。立即体验,让有声书制作更简单!
    2890次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码