微软正在开发拥有 5000 亿参数的巨型 AI 模型 MAI-1
2 阅读时间
微软正在开发一个庞大的新型语言模型 MAI-1,该模型被视为可能与谷歌和 OpenAI 的类似工具相匹敌。MAI-1 拥有约 5000 亿个参数,旨在增强微软的人工智能能力,特别是针对其 Bing 搜索引擎和 Azure 云服务。

来源: 作者原创
微软正在构建一个重要的新型语言模型 MAI-1,其约 5000 亿参数的规模使其跻身业内最大的模型之列。它旨在与 OpenAI 的 GPT-4 和 谷歌的 Gemini Ultra 等其他主要模型竞争。
参数决定了模型理解和生成语言的能力。拥有更多参数的模型可以更好地捕捉语言的细微差别,但也使其速度更慢,计算密集度更高。参数还定义了模型的语言学习能力,并影响其在不同语言任务中的精确度和泛化能力。与仅在单个数据集上训练的模型相比,参数调整良好的模型可以更好地推广到新数据。
MAI-1 的开发由穆斯塔法·苏莱曼领导,他是人工智能开发领域的杰出人物,曾在谷歌工作,并曾担任 Inflection AI 的 CEO,之后加入微软。该模型正在使用配备了大量 GPU 资源的服务器集群构建,可能采用了英伟达技术。据报道,MAI-1 的训练数据包括 GPT-4 生成的文本以及其他网络内容,为其提供了强大而多样化的数据库。
MAI-1 的开发表明了微软致力于独立提升其人工智能能力,这与其与 OpenAI 等外部参与者的合作有所不同。该模型预计将集成到微软的云服务中,并可能增强 Bing 和 Azure 等应用程序。
尽管 MAI-1 规模庞大,但其复杂性意味着它被设计为在微软的数据中心运行,因此不适合在消费级设备上运行。该模型的具体应用和全部功能仍在考虑之中,可能会在微软即将举行的 Build 开发者大会上揭晓。