据报道,微软正在开发一种新的内部 AI 模型,这是自从微软投资超过 100 亿美元重度利用创业公司 OpenAI 的 AI 模型用于自家产品并保持领先地位以来的首次。
MAI-1 是微软的内部项目。
据报道,这个新模型足够大,可以与谷歌的母公司 Alphabet 和 OpenAI 的模型竞争。
这个新模型在微软内部被称为 MAI-1,据《The Information》报道,最近加入微软的 Mustafa Suleyman 正在领导这个项目。他是 DeepMind 的联合创始人,后来被谷歌收购,最近还担任一家名为 Inflection 的创业公司的 CEO。
但报道中声称,这并不是 Inflection 的 AI 模型,但该公司可能会使用这家创业公司的训练数据集和其他相关技术来开发这个与 Inflection 已发布的模型完全分离的微软模型。
需要记住的是,在聘请 Suleyman 之前,微软支付了 6.5 亿美元购买了 Inflection 的全部权益,并聘请了其大部分员工。
据了解,MAI-1 将是一个完全不同的实体,比微软之前训练的较小模型要大得多,而且是免费开源的。根据知情人士透露,该模型将需要更多的计算资源和训练数据,因此开发成本肯定更高。
一个更大的项目
以比较为例,由 Mistral 和 Meta 公司训练的较小模型有 700 亿个参数,这可以粗略地称之为衡量 AI 模型大小的一个指标,而 OpenAI 的 GPT4 据说有超过 1 万亿个参数。而 MAI-1 将有约 5000 亿个参数。
但单单参数并不是衡量 AI 模型可靠性的可靠特征,因为最近微软推出的一些 Phi 系列开源模型据说在与其大小相差十倍的模型相媲美。
Phi-3 Mini 是微软上个月发布的系列之一,尺寸较小,公司希望通过更便宜的选择来面向更广泛的客户群体。
据报道,微软一直在采购大量的服务器,或者说是嵌入 Nvidia 图形处理器的服务器集群,以及大量的数据集来训练这个模型。
尽管当微软宣布将 OpenAI 的 ChatGPT 聊天机器人整合到 Bing 搜索中时,许多分析师将其称为“iPhone 时刻”并对其影响过于乐观,但最初它只为 Bing 带来了额外的 1% 到 2% 的搜索份额。
然而,最近 Search Engine Journal 在四月份的报告显示,谷歌的搜索份额首次在一个月内下降了超过 4%,而竞争对手 Bing 和雅虎在美国市场特别是获得了份额。
但现在看来,微软向 OpenAI 投入数十亿美元已经开始变得有意义,而且随着自家 Phi 模型的成功,如果投资于一个更大的模型也是有意义的。