英特尔突袭英伟达H100!新AI芯片训练快40%:CEO蹦迪庆祝
英特尔,开始正面硬刚英伟达了。
就在深夜,英特尔CEO帕特·基辛格手舞足蹈地亮出了最新AI芯片——Gaudi 3:
他为什么开心到现场直接蹦迪?
看下Gaudi 3的性能结果,就一目了然了:
训练大模型:比英伟达H100快40%
推理大模型:比英伟达H100快50%
不仅如此,虽然基辛格没有在现场给出直接的数据,但他还表示:
Gaudi 3的性能将与英伟达H200相当,在某些领域的性能甚至会更好。
如此直面对标英伟达,到底效果如何,我们继续往下看。
硬刚英伟达的Gaudi 3
英特尔表示,Gaudi 3已经在Llama上做了测试,可以有效地训练或部署AI大模型,包括文生图的Stable Diffusion和语音识别的Whisper等等。
在现场,基辛格也展示了集成最新英特尔芯片的AI PC,能够快速处理的多项任务,例如快速处理邮件:
再如语音处理:
以及图像渲染:
英特尔演示操作的同事还非常调皮地展示了用AI PC生成的卡通版基辛格:
据了解,Gaudi 3采用5纳米工艺制造,与历代Gaudi其它性能上的具体对比,如下表所示:
英特尔表示,Gaudi 3芯片将在今年的第三季度向客户大规模提供,包括戴尔、惠普和超微电脑在内的公司将使用该芯片。
至于具体的价格,目前英特尔方面还并未透露。
不过更令人意外的是,Gaudi 3还只是在这次英特尔Vision活动中发布的产品之一。
Xeon,步入第六代
没错,去年年底英特尔刚刚上市第五代Xeon,仅时隔数个月,第六代Xeon又来了!
(英特尔这次还真没有挤牙膏)
在现场,基辛格还亲切地叫它“little baby”:
第六代Xeon包含两种架构,分别是Sierra Forest和Granite Rapids。
Sierra Forest基于英特尔更小、低功耗的E-cores,而Granite Rapids则由更大但性能更高的P-cores 组成。
基辛格在现场称二者像双胞胎:
更具体而言,Sierra Forest架构的英特尔Xeon 6处理器,其机架密度提高2.7倍。
客户能以近3:1的比例替换旧系统,大幅降低能耗,帮助其实现可持续发展目标。
而Sierra Forest架构的英特尔Xeon 6处理器包含了对MXFP4数据格式的软件支持。
与使用FP16的第四代Xeon处理器相比,可将下一个token的延迟时间最多缩短6.5倍,能够运行700亿参数的Llama-2模型。
至于英特尔Xeon 6处理大模型的速度到底有多快,基辛格做了更加直接的对比。
他将第四代、第五代和最新的第六代Xeon放到了一起,来了一个现场速度的大比拼。
从直观的生成速度来看,第六代Xeon明显要比“前任们”快上许多。
具体到精确的延时数值,第六代Xeon运行Llama 2 70B只有82ms。
同等条件下,第六代Xeon与“前任们”的延时数值对比如下:
据了解,Sierra Forest架构的第六代Xeon处理器将于今年第二季度推出。
网友揭秘英特尔“秘方”
这场硬刚英伟达的发布会,同样也激起了不少网友们的热议。
例如Gaudi 3封装的一处细节,即使用HBM2e存储芯片,有网友对此表示惊讶:
他们使用的是HBM2e,这是英伟达A100在2020年使用的。
而最先进的HBM3e英特尔原本也计划采用,但很可能因为供应不足,这次没能抢到足够的订单。
对此,这位网友进一步表示:
这是英特尔的秘方之一。
他们总能靠旧技术赶上/超越新技术,直到当前的技术在生产、获取和集成上变得更容易。
实际上,制造优势也是英特尔在半导体领域的关键优势之一,作为半导体产业的开创者之一,英特尔几乎拥有芯片产业的所有资源和要素能力。
但何时能够和英伟达全面一较高下?这也是不少网友关注的问题:
这次英特尔硬刚的是H100/H200,那什么时候可以对标英伟达最新的“核弹”B200?
或许答案只有交给时间来回答。
但无论如何,英特尔此次的发布,确实是给AIGC时代的算力,多提供了一项“快好省”的选择。
参考链接:
[1]https://www.anandtech.com/show/21342/intel-introduces-gaudi-3-accelerator-going-bigger-and-aiming-higher
[2]https://www.servethehome.com/intel-vision-2024-keynote-live-coverage/
[3]https://news.ycombinator.com/item?id=39981032
本文链接:http://www.sanlianzhuang.com/content-29-348-1.html
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
-
合资插混最强匮电也是龙 雪佛兰探界者Plus上市:14.99万起!
雪佛兰首款智电插混SUV探界者Plus今日正式上市,共推4款配置车型,售价区间14 99-17 99万元。该车采用新一代设计语言,延续美式SUV典型的设 [详细] -
光峰科技发布2023年财报:营收22.13亿元 经营现金流大增105%
4月26日晚间,光峰科技披露2023年年报。年报显示,2023年光峰科技实现营业收入22 13亿元;归母净利润实现1 03亿元;整体毛利率达到36 22%; [详细] -
张艺谋《第二十条》网播上线:爱奇艺、腾讯视频、优酷会员免费看
今日,张艺谋电影《第二十条》正式开启网播,上线爱奇艺、腾讯视频、优酷、芒果TV、B站等视频平台,开通平台会员后可免费观看。据了解,《 [详细] -
《蛋仔派对》注重保护未成年人网络安全 保护未成年人不受到诈骗
在目前这个飞速发展的数字化时代,互联网让我们的娱乐生活得到了极大的丰富,各种各样的游戏层出不穷,但网络安全问题也随之凸显,大额充值 [详细] -
百度:AI专利申请量、授权量国内第一
在第24个世界知识产权日来临之际,百度昨日举办专利运用赋能AI产业高质量发展论坛。在论坛上,百度首席技术官王海峰透露,百度在以大模型为 [详细]