时时彩app 微软发布新一代高性能 AI 推理芯片

微软负责发布新款芯片Maia 200,该公司称这款芯片是为 AI 推理畛域化部署打造的高性能核默算力芯片。
行为 2023 年推出的Maia 100的升级款,微软暗示,Maia 200 在时刻上收场了升级,大概以更快的速率、更高的能效运行高性能 AI 模子。这款芯片集成超 1000 亿个晶体管,4 比特精度下的算力可达 10 petaflops 以上,8 比特精度算力约 5 petaflops,相较上一代家具收场大幅升迁。
AI 推理指运行已磨砺完成模子的推敲过程,与模子磨砺所需的推敲过程不同。跟着东谈主工智能企业的发展走向教育,推理资本在企业举座运营资本中的占比抓续升迁,也让行业再行聚焦于推理进程的优化决议。
微软但愿 Maia 200 能成为鼓动这一优化的要津家具,助力 AI 企业收场更踏实的业务运行与更低的能耗。微软暗示:“骨子诓骗中,单节点 Maia 200 可纯粹运行现时畛域最大的 AI 模子,且为改日更大畛域的模子运算预留了实足的算力空间。”
现时科技巨头纷繁自研芯片,以此裁减对英伟达的依赖 —— 英伟达的前沿图形管制器(GPU)已成为东谈主工智能企业发展的核默算力复古,微软这款新芯片的推出,恰是这一趋势的体现。举例,谷歌推出了张量管制单位(TPU),该家具并非以芯片面貌对外售售,而是通过谷歌云平台以算力办事的面貌灵通;电商巨头亚马逊则领有自研 AI 加快芯片 Trainium,时时彩app官方最新版下载其最新款 Trainium3 已于客岁 12 月发布。这些自研芯片均可不竭蓝本由英伟达 GPU 承担的部分推敲任务,从而裁减企业的举座硬件资本。
这款芯片采纳台积电 3 纳米制程工艺,每台办事器内集成四颗芯片,通过以太网电缆收场连气儿,而非 InfiniBand 高速互联程序。英伟达在 2020 年收购迈络想后,便启动推出 InfiniBand 交换机家具。
格斯里在博客中写谈,同等价钱下,Maia 200 的性能较同类家具跳跃 30%。微软暗示,单颗 Maia 200 搭载的高带宽内存,容量越过亚马逊云科技第三代 Trainium AI 芯片和谷歌第七代张量管制单位。
{jz:field.toptypename/}格斯里还指出,微软可将多达 6144 颗 Maia 200 芯片组网联动,在收场高性能算力的同期,降稚子耗与举座领有资本。
微软长远,Maia 系列芯片已进入骨子诓骗,为该公司超智能团队的各样 AI 模子提供算力支抓,同期也为旗下聊天机器东谈主 Copilot 的平常运营提供时刻复古。限度 1 月 26 日,微软已邀请配置者、科研学者以及前沿东谈主工智能施行室等多方主体,在其业务算力负载中试用 Maia 200 软件配置器具包(SDK)。
海量资讯、精确解读,尽在新浪财经APP
职守裁剪:丁文武


备案号: