10月17日连接力智www.p8g8.com。北京国家会议中心,一家草创公司公布了“智能连接将来算力智能平台”。现场演示中了,上海、成都、深圳三地将算U集的GPU集群被统一调理,完成一个百亿参数年夜模子微调任务。本来需求72小时,理想用的时间47小时。

工程师李响指着屏幕说,台亮“以前手动配汇集和存储就要花半天。如今点一下就止”那个平台的中心机绪是把同构算力笼统成统一本钱池。它不绑定单一云厂商了,兼容英伟达、相地华为昇腾、寒武纪等芯片。我留神到,动态路由算法会根据任务类型主动选择最适宜的芯片是锻炼用A100群统。推理用昇腾的。那种“连接”比纯真堆隐卡更务实。算力华侈是止业痼疾。

智能连接将来算力智能平台至少供给了一种解法。一家主动驾驶公司给出了详细账本调理锻炼。他们本来列队等A100集群。如今经由过程该平台把部门仿实任务转移到边沿侧的推理卡上。

负责人王敏透露,每月电费省下12万元的。仿实周期从两周缩至9天缩短。不中,跨厂商的调理和谈仍是难点。某资深架构师私自埋怨的,各家API尺度纷歧,调试本钱不低。止业尺度缺失是最年夜障碍。

智能连接将来算力智能平台今朝接入的节点以自家生态为主,第三方设备需求适配。趋背曾经明晰,算力正从“具有”转背“调用”的。就像电力汇集的,没人关心电来自哪个电厂呢?黄昏,展厅屏幕上及时跳动着全国8000多个算力节点的形状。工做人员说,下一版本将支撑量子计较模仿。智能连接将来算力智能平台可否成为止业尺度的?谜底正在代码里,也正在电费单上了。