(资料图)

《科创板日报》7月4日讯(编辑 宋子乔)英伟达AI生态系统再次泛起一阵涟漪。根据近期爆料,英伟达在2月秘密收购了AI初创企业OmniML。

OmniML成立仅两年,创始人是三位华人,其主要产品是 Omnimizer,一个旨在快速、轻松地大规模进行 AI 优化的平台,可以压缩机器学习模型的大小,以便大模型在更小的设备上运行,而非依赖于云端算力

简言之,OmniML的平台可视作大模型与终端设备的桥梁,旨在帮助大模型部署在手机、平板电脑、智能音箱、无人机、汽车等硬件上。这也是谷歌、华为、高通等公司都在进行的尝试——实现AI大模型在终端的轻量化部署,将AI与更多智能硬件融合

科技媒体the information表示,这项收购可能意味着英伟达想要改进其专门用于汽车、工业机器人和无人机的人工智能芯片。

目前,英伟达主要有3个边缘产品:用于企业边缘计算的NVIDIA EGX平台,用于工业应用的IGX平台,以及用于自主机器和嵌入式边缘案例的Jetson。该公司还优化了NVIDIA软件,使其可以在这些设备上运行,其客户也可以使用Fleet command平台来指挥他们的边缘设备。

OmniML此前表示,其能够使机器学习任务在不同边缘设备上的速度提高10倍,而工程工作量仅为1/10,不仅大幅提高模型性能,而且显著降低企业成本。

随着大模型在智能设备中的渗透率提升,对于边缘侧模型推理的需求将快速释放,科技公司争相布局,大量资本也开始涌入这个赛道。

OmniML成立以来得到了许多老牌风险投资公司的支持,包括 GGV Capital、Qualcomm Ventures、Foothill Ventures等。在被收购前一个月,OmniML还宣布与英特尔建立合作伙伴关系。

产品端,华为P60系列和Mate X3手机上,基于多模态大模型技术在端侧轻量化应用,手机上第一次有了自然语言图片搜索能力;谷歌发布PaLM2大模型,其中Gecko可以在移动端运行;百度即将发布AI+智能手机的消息印证了手机的入口价值;高通中国发布了全球首个运行在Android手机上的Stable Diffusion终端侧演示。

可以预见的,科技巨头和资本的推动下,大模型的入口将从主流的PC和手机端,不断向更广泛的智能设备扩散。

关键词: