Windows 11

微软近日在 Windows 11 系统中推出了一款名为 Mu 的新型本地语言模型。这款模型专为提升用户与系统的自然语言交互体验而设计,特别是在系统设置中的搜索功能方面表现突出。作为微软智能代理战略的一部分,Mu 被集成到设置应用的搜索框中,使用户可以通过自然语言查询快速找到所需选项。

这款语言模型是微软继 Phi-Silica 之后推出的又一本地小型语言模型(SLM),特别优化以在搭载 NPU(神经处理单元)的 Copilot+ PC 上高效运行。得益于专用硬件的支持,Mu 可在设备端实现每秒超过 100 个 token 的推理速度,显著提升了响应效率。

Mu 是一个拥有 3.3 亿参数的编码器-解码器架构模型。相比传统解码器模型,它在首 token 延迟上降低了约 47%,同时解码速度提升了 4.7 倍。为了控制模型体积,微软在其部分组件中引入了权重共享技术。尽管 Mu 的规模仅为 Phi-3.5-mini 的十分之一,但其性能几乎与微调后的 Phi-3.5-mini 相当,尤其在处理多词复杂查询方面表现出色。

对于输入较短或部分关键词的情况,系统仍能结合词汇匹配和语义理解提供精准搜索结果。目前,这一新功能已面向 Windows 预览体验计划成员开放,仅限使用 Copilot+ 电脑的用户,需升级至 Windows 11 Build 26120.3964 或更高版本方可体验。

微软持续推动人工智能在操作系统层面的落地,Mu 的发布标志着其在本地 AI 模型部署上的又一次重要进展。未来,这类语言模型有望进一步扩展到更多应用场景,为用户提供更智能化、个性化的计算体验。

本文来源: IT之家【阅读原文】
© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...