当前位置: 江南文明网 > 科技 > 智能 >

192GB统一内存 单台设备能跑AI大模型

条评论

192GB统一内存 单台设备能跑AI大模型

芯东西6月6日报道,今日凌晨,苹果公布了其M2家族的最后一款芯片猛兽——M2 Ultra

这是苹果迄今最大且最强大的芯片,采用第二代5nm制程工艺技术。

去年3月,苹果首次展示将两块M1芯片“粘”在一起的设计,推出集成了1140亿颗晶体管、20核CPU、最高64核GPU、32核神经网络引擎、2.5TB/s数据传输速率、800GB/s内存带宽、128GB统一内存的“至尊版”芯片M1 Ultra上。

延续M1 Ultra的设计思路,M2 Ultra芯片通过采用突破性的UltraFusion架构,将两块M2 Max芯片拼接到一起,拥有1340亿个晶体管,比上一代M1 Ultra多出200亿个。UltraFusion是苹果业界领先的定制封装技术,使用硅中介层(interposer)将芯片与超过10000个信号连接起来,提供超过2.5TB/s的低延迟处理器间带宽。
去年M1 Ultra已经足够“炸场”,今天M2 Ultra的性能更加炸裂——24核CPU,速度比M1 Ultra快20%;最高76核GPU,速度比M1 Ultra快30%;32核神经网络引擎,每秒运行31.6万亿次,速度比M1 Ultra快40%;显示引擎支持多达6个Pro display XDR,驱动超过1亿像素

基于此,M2 Ultra芯片拥有比M1 Ultra足足高出50%的192GB统一内存,并具有两倍于M2 Max芯片的800GB/s内存带宽

以前受限于内存不够,即使是最强的独立GPU也无法处理大模型。而苹果通过将超大内存带宽集成到单个SoC,实现单台设备就能运行大型Transformer模型等庞大的机器学习工作负载。

这将Mac电脑性能提升到一个新的水平。

苹果新一代Mac Studio和Mac Pro将搭载M2 Ultra芯片,均从6月7日上午9点起接受订购,将在获得批准后发售。M2 Ultra版Mac Studio起售价为32999元人民币,Mac Pro起售价为55999元人民币,每位顾客限购6台。