微软高层说明Bing聊天背后的关键

当微软在2月7日宣布新的必应时，他们并没有花很多时间谈论Prometheus这个语言模型，仅知道这是为Bing聊天提供动力的特定版Chat GPT。

依照目前所知，这是一个比独立的ChatGPT 3.5更新的ChatGPT版本，另外还有传言说微软使用的是ChatGPT 4，不过，目前从微软最新披露的资讯来看，Prometheus不止于此。



在LinkedIn上的一篇文章中，微软搜索和人工智能副总裁Jordi Ribas对Prometheus是什么以及它的作用进行了更多的讨论。

Ribas首先说，微软去年夏天第一次看到OpenAI的下一代GPT模型，称其“改变了游戏规则”。然后他们受到启发，开始研究如何将GPT功能集成到Bing搜索产品中。（尽管有一些迹象表明，微软在这之前就在努力将聊天机器人集成到必应。）

与其他大型语言模型（LLM）类似，这个新的GPT模型是在现有资料上训练的，但对于Prometheus来说，微软希望将这个LLM可以与“微软后端力量”结合起来。

更具体地说，Prometheus是微软开发的一个首创的人工智能模型技术，它将通过Bing索引得到的最新资讯、排名和答案结果与OpenAI最先进的GPT模型的创造性推理能力相结合。Prometheus集成了Bing和GPT的力量，再通过一个名为Bing Orchestrator的组件来生成一组精准而丰富的答案，而且是基于用户所给定的场景之下的答案。所有这些都在几毫秒内完成，其生成的答案称为“聊天答案”（Chat answer）。



他表示，这个“Bing Orchestrator”使用一种叫做“Grounding”（接地）的技术，以提供“相关的和最新的资讯给模型，使其能够回答最近的问题，并减少不精准的地方。”

Ribas继续描述了如何在Bing中创建聊天功能背后的一些决策；一些人倾向于用户体验，即“保持像今天的网络搜索一样的用户体验，只是在主要用户体验上添加由Prometheus驱动的聊天答案”。其他人则看到了一个“改变搜索范式的机会，从传统的网络和答案结果到新的互动、基于聊天的搜索方式”。

他们所做的是两者兼而有之，这种设计“根据用户的意图和偏好，在搜索和聊天模式之间取得平衡”，今天Bing的全新用户体验就是源自于此，用户能够在聊天和搜索之间轻松切换，并再次返回。

新Bing聊天的关键目标是收集用户的反应，以便能够负责任地应用这些新的技术，找到将Bing的即时搜索答案与大型语言模型结合起来的最佳解。他说，微软“在前两周从真正的用户那里学到的东西比在实验室里几个月学到的东西还要多”，并提到目前他们学到了要为长会话设置上限，以及改进接地资料的变化。

最后，Ribas认为，新的Bing“正在将搜索带入创新的下一个层次。我真的相信，搜索将会从此改变”。

微软已经对新Bing预览版的工作方式做了一些改变，对聊天会话设置了上限（然后提高了上限），他们承诺最快在本周会有更多改变，包括允许更多人尝试使用预览版。

感谢大佬分享

科技改变生活

升级好慢啊！怎么才能快速升级啊？